#opg $OPG
Kilka dni temu złapałem się na tym, że sprawdzam wyniki narzędzia AI, zanim jeszcze pomyślę, skąd one pochodzą. To nie była niedbałość. Po prostu stało się to nawykiem. Wynik wyglądał przekonująco, więc zaakceptowałem go, nie pytając, co działo się pod spodem.
Ten mały moment pozostał ze mną dłużej, niż się spodziewałem. Uświadomił mi, jak szybko wygoda zmienia nasze standardy. Kiedyś pytaliśmy, czy informacje są prawdziwe. Teraz często zauważam, że pierwsze pytanie brzmi, czy są użyteczne. Gdzieś po drodze przestałem zwracać uwagę na to, jak zaufanie jest zdobywane.
Im więcej o tym myślałem, tym bardziej uświadamiałem sobie, że inteligencja to nie tylko generowanie dobrych odpowiedzi. To także tworzenie wystarczającej widoczności, aby te odpowiedzi mogły być kwestionowane, badane i weryfikowane. System, który prosi o zaufanie, nie oferując dowodów, może działać przez jakiś czas, ale cicho prosi ludzi o poddanie czegoś, co mogą nawet nie zdawać sobie sprawy, że oddają.
Ta myśl skłoniła mnie do innego spojrzenia na zdecentralizowaną infrastrukturę. Przez długi czas kojarzyłem decentralizację głównie z własnością i odpornością. Ostatnio zaczynam myśleć, że jej głębsza wartość może leżeć w odpowiedzialności.
Jeśli AI staje się częścią podejmowania decyzji, to zdolność do weryfikacji, jak modele są hostowane, jak odbywa się wnioskowanie i czy wyniki mogą być niezależnie sprawdzone, wydaje się równie ważna co sama inteligencja. To jeden z powodów, dla których projekty takie jak @OpenGradient przykuły moją uwagę. Idea nie polega tylko na dystrybucji obliczeń. Chodzi o to, aby zaufanie stało się czymś, co można zbadać, a nie przyjąć za pewnik.
Wciąż zastanawiam się, co ta zmiana oznacza w praktyce, ale podejrzewam, że w końcu będziemy oceniać inteligentne systemy mniej przez to, jak imponujące się wydają, a bardziej przez to, jak pewnie ich roszczenia mogą być weryfikowane.
@OpenGradient
#OPG
$OPG
Kilka dni temu złapałem się na tym, że sprawdzam wyniki narzędzia AI, zanim jeszcze pomyślę, skąd one pochodzą. To nie była niedbałość. Po prostu stało się to nawykiem. Wynik wyglądał przekonująco, więc zaakceptowałem go, nie pytając, co działo się pod spodem.
Ten mały moment pozostał ze mną dłużej, niż się spodziewałem. Uświadomił mi, jak szybko wygoda zmienia nasze standardy. Kiedyś pytaliśmy, czy informacje są prawdziwe. Teraz często zauważam, że pierwsze pytanie brzmi, czy są użyteczne. Gdzieś po drodze przestałem zwracać uwagę na to, jak zaufanie jest zdobywane.
Im więcej o tym myślałem, tym bardziej uświadamiałem sobie, że inteligencja to nie tylko generowanie dobrych odpowiedzi. To także tworzenie wystarczającej widoczności, aby te odpowiedzi mogły być kwestionowane, badane i weryfikowane. System, który prosi o zaufanie, nie oferując dowodów, może działać przez jakiś czas, ale cicho prosi ludzi o poddanie czegoś, co mogą nawet nie zdawać sobie sprawy, że oddają.
Ta myśl skłoniła mnie do innego spojrzenia na zdecentralizowaną infrastrukturę. Przez długi czas kojarzyłem decentralizację głównie z własnością i odpornością. Ostatnio zaczynam myśleć, że jej głębsza wartość może leżeć w odpowiedzialności.
Jeśli AI staje się częścią podejmowania decyzji, to zdolność do weryfikacji, jak modele są hostowane, jak odbywa się wnioskowanie i czy wyniki mogą być niezależnie sprawdzone, wydaje się równie ważna co sama inteligencja. To jeden z powodów, dla których projekty takie jak @OpenGradient przykuły moją uwagę. Idea nie polega tylko na dystrybucji obliczeń. Chodzi o to, aby zaufanie stało się czymś, co można zbadać, a nie przyjąć za pewnik.
Wciąż zastanawiam się, co ta zmiana oznacza w praktyce, ale podejrzewam, że w końcu będziemy oceniać inteligentne systemy mniej przez to, jak imponujące się wydają, a bardziej przez to, jak pewnie ich roszczenia mogą być weryfikowane.
@OpenGradient
#OPG
$OPG