#opg $OPG
Kilka wieczorów temu przeglądałem serię wyników AI, które zapisałem w ciągu ostatniego tygodnia. Wszystkie wyglądały na dopracowane, spójne i przekonujące. To, co przykuło moją uwagę, to nie jakość odpowiedzi, ale fakt, że nie mogłem wyjaśnić, dlaczego im zaufałem. Przyjąłem je, ponieważ wydawały się wiarygodne, a nie dlatego, że miałem jakikolwiek sposób, aby zweryfikować, co działo się za kulisami.
To uświadomienie pozostało ze mną dłużej, niż się spodziewałem. Zdałem sobie sprawę, że gdzieś po drodze zacząłem traktować pewność jako dowód. To nie była świadoma decyzja. Po prostu łatwiej było iść dalej, niż kwestionować proces, który doprowadził do wyniku.
@OpenGradient $OPG
Im więcej o tym myślałem, tym bardziej wydawało się to znajomym schematem w technologii. Spędzamy lata, aby systemy były szybsze i bardziej wydajne, ale rzadko zatrzymujemy się, aby zapytać, czy są one odpowiedzialne w sposób, który zrozumie przeciętny człowiek. Prędkość jest widoczna. Zaufanie zazwyczaj nie jest. A jednak zaufanie często jest tym, co ma największe znaczenie, gdy te systemy stają się częścią codziennych decyzji.
Ta perspektywa zmieniła również sposób, w jaki patrzę na zdecentralizowaną infrastrukturę. Kiedyś myślałem, że decentralizacja przede wszystkim polega na usuwaniu pośredników lub rozdzielaniu kontroli. Teraz zwracam większą uwagę na to, czy sieć może dostarczyć dowody, zamiast założeń.
Jeśli modele AI mają działać w otwartych sieciach, to ich hostowanie nie jest całą historią. Możliwość weryfikacji, jak doszło do wnioskowania, może okazać się równie wartościowa jak samo wnioskowanie. Ta idea jest jednym z powodów, dla których projekty takie jak @OpenGradient przykuły moją uwagę. Wydają się traktować weryfikację jako część infrastruktury, a nie opcjonalną funkcję dodaną później.
Ciągle się zastanawiam, czy następny skok w AI będzie wynikiem uczynienia modeli mądrzejszymi, czy też zrobienia z zaufania czegoś, co nie zależy już tylko od wiary. Które z tych rzeczy myślisz, że będzie miało większe znaczenie w dłuższej perspektywie?
@OpenGradient
#Opg
$OPG
Kilka wieczorów temu przeglądałem serię wyników AI, które zapisałem w ciągu ostatniego tygodnia. Wszystkie wyglądały na dopracowane, spójne i przekonujące. To, co przykuło moją uwagę, to nie jakość odpowiedzi, ale fakt, że nie mogłem wyjaśnić, dlaczego im zaufałem. Przyjąłem je, ponieważ wydawały się wiarygodne, a nie dlatego, że miałem jakikolwiek sposób, aby zweryfikować, co działo się za kulisami.
To uświadomienie pozostało ze mną dłużej, niż się spodziewałem. Zdałem sobie sprawę, że gdzieś po drodze zacząłem traktować pewność jako dowód. To nie była świadoma decyzja. Po prostu łatwiej było iść dalej, niż kwestionować proces, który doprowadził do wyniku.
@OpenGradient $OPG
Im więcej o tym myślałem, tym bardziej wydawało się to znajomym schematem w technologii. Spędzamy lata, aby systemy były szybsze i bardziej wydajne, ale rzadko zatrzymujemy się, aby zapytać, czy są one odpowiedzialne w sposób, który zrozumie przeciętny człowiek. Prędkość jest widoczna. Zaufanie zazwyczaj nie jest. A jednak zaufanie często jest tym, co ma największe znaczenie, gdy te systemy stają się częścią codziennych decyzji.
Ta perspektywa zmieniła również sposób, w jaki patrzę na zdecentralizowaną infrastrukturę. Kiedyś myślałem, że decentralizacja przede wszystkim polega na usuwaniu pośredników lub rozdzielaniu kontroli. Teraz zwracam większą uwagę na to, czy sieć może dostarczyć dowody, zamiast założeń.
Jeśli modele AI mają działać w otwartych sieciach, to ich hostowanie nie jest całą historią. Możliwość weryfikacji, jak doszło do wnioskowania, może okazać się równie wartościowa jak samo wnioskowanie. Ta idea jest jednym z powodów, dla których projekty takie jak @OpenGradient przykuły moją uwagę. Wydają się traktować weryfikację jako część infrastruktury, a nie opcjonalną funkcję dodaną później.
Ciągle się zastanawiam, czy następny skok w AI będzie wynikiem uczynienia modeli mądrzejszymi, czy też zrobienia z zaufania czegoś, co nie zależy już tylko od wiary. Które z tych rzeczy myślisz, że będzie miało większe znaczenie w dłuższej perspektywie?
@OpenGradient
#Opg
$OPG