W zeszłym tygodniu nasz zespół operacyjny mówił, że szuka platformy z modelem AI, żeby koledzy z działu treści mogli bezpośrednio uruchamiać modele, generować teksty i analizować dane, nie musząc za każdym razem prosić technologów o harmonogram. Rzuciłem: „Zobaczcie rynek modeli OpenGradient, po użyciu nie musicie mi dziękować.”
Następnego dnia przysłała mi zrzut ekranu: „Po wejściu kliknęłam model zarządzania ryzykiem finansowym, nacisnęłam Run, w trzy sekundy wyniki, a do tego link do dowodu na blockchainie. To w ogóle nie to samo co Hugging Face?”
Chciałem udawać spokój, ale nie mogłem znieść jej serii pytań. Wskazała na stronie „zweryfikowane liczby inferencji” i „historia wersji modelu” i zapytała: „Dlaczego u innych tego nie ma? Co to może chronić?”
Od razu się rozkręciłem, więc zwołałem małe spotkanie zespołu, używając rynku modeli OpenGradient jako studium przypadku.
Powiedziałem, że możecie wyobrazić sobie Hugging Face jako ogromny rynek, gdzie modele to warzywa, które po wyborze musicie sami zabrać do domu, myć, kroić i smażyć — szukać mocy obliczeniowej, konfigurować środowisko, wdrażać, to strasznie męczące. Rynek modeli OpenGradient bardziej przypomina automatyczną maszynę do gotowania, wybieracie model i po prostu klikacie „Run”, a za kulisami mnóstwo węzłów automatycznie przydziela moc obliczeniową do inferencji, a po wszystkim cały proces jest zapisany na blockchainie. Wy tylko zajmujecie się gotowym daniem, kuchnia jest przezroczysta i otwarta.
Ta dziewczyna z działu operacyjnego powiedziała coś, co rozśmieszyło wszystkich: „Więc to nie jest coś dla programistów, tylko dla zwykłych ludzi, którzy nie chcą się męczyć?” Tak, dokładnie to miałem na myśli.
Uważam, że prawdziwy mur obronny tego rynku modeli tkwi w tej „zweryfikowanej liczbie inferencji”. Każdy model ma publiczne dane o liczbie uruchomień, wersjach, czy były jakieś oszczędności na jakości, wszystko jawne. Programiści nie mają szans, by oszukiwać z niskobudżetowymi modelami. To coś jak „credit score” dla modeli, czego brakuje w całym przemyśle AI.
Po tym spotkaniu zespół operacyjny zaczął uruchamiać modele analizy treści na OpenGradient, zespół techniczny nie musiał już pracować w nadgodzinach, obie strony rzadko osiągały konsensus. To coś, co mogło być naprawdę niedocenione.
#opg $OPG @OpenGradient
Następnego dnia przysłała mi zrzut ekranu: „Po wejściu kliknęłam model zarządzania ryzykiem finansowym, nacisnęłam Run, w trzy sekundy wyniki, a do tego link do dowodu na blockchainie. To w ogóle nie to samo co Hugging Face?”
Chciałem udawać spokój, ale nie mogłem znieść jej serii pytań. Wskazała na stronie „zweryfikowane liczby inferencji” i „historia wersji modelu” i zapytała: „Dlaczego u innych tego nie ma? Co to może chronić?”
Od razu się rozkręciłem, więc zwołałem małe spotkanie zespołu, używając rynku modeli OpenGradient jako studium przypadku.
Powiedziałem, że możecie wyobrazić sobie Hugging Face jako ogromny rynek, gdzie modele to warzywa, które po wyborze musicie sami zabrać do domu, myć, kroić i smażyć — szukać mocy obliczeniowej, konfigurować środowisko, wdrażać, to strasznie męczące. Rynek modeli OpenGradient bardziej przypomina automatyczną maszynę do gotowania, wybieracie model i po prostu klikacie „Run”, a za kulisami mnóstwo węzłów automatycznie przydziela moc obliczeniową do inferencji, a po wszystkim cały proces jest zapisany na blockchainie. Wy tylko zajmujecie się gotowym daniem, kuchnia jest przezroczysta i otwarta.
Ta dziewczyna z działu operacyjnego powiedziała coś, co rozśmieszyło wszystkich: „Więc to nie jest coś dla programistów, tylko dla zwykłych ludzi, którzy nie chcą się męczyć?” Tak, dokładnie to miałem na myśli.
Uważam, że prawdziwy mur obronny tego rynku modeli tkwi w tej „zweryfikowanej liczbie inferencji”. Każdy model ma publiczne dane o liczbie uruchomień, wersjach, czy były jakieś oszczędności na jakości, wszystko jawne. Programiści nie mają szans, by oszukiwać z niskobudżetowymi modelami. To coś jak „credit score” dla modeli, czego brakuje w całym przemyśle AI.
Po tym spotkaniu zespół operacyjny zaczął uruchamiać modele analizy treści na OpenGradient, zespół techniczny nie musiał już pracować w nadgodzinach, obie strony rzadko osiągały konsensus. To coś, co mogło być naprawdę niedocenione.
#opg $OPG @OpenGradient