No debate sobre alinhamento, Vitalik ficou do lado de «limitar as capacidades, não as pessoas».
Segundo vários relatos, o cofundador do Ethereum, Vitalik Buterin, concorda com a decisão da Kimi 3.1 de excluir dos dados de treino capacidades avançadas de ciberataque. Defende que é melhor limitar as capacidades de acordo com o contexto de utilização do que discriminar os utilizadores com base na sua identidade. Também alertou que, se os riscos da IA forem mal geridos, podemos acabar com modelos excessivamente restritos, vigilância profunda e estratificação social.
Como interpretar isto: trata-se de uma questão de alinhamento de segurança, não apenas de relações públicas de produto. Para o setor das criptomoedas, o mais relevante é que a exposição dos modelos de código aberto, das ferramentas automatizadas de ataque e da infraestrutura on-chain vai aumentar em conjunto. Daqui para a frente, será mais útil acompanhar os limites públicos que cada empresa define para as «capacidades ofensivas» nos cartões dos modelos e perceber se a investigação em segurança mantém canais legítimos para exercícios de red team do que prestar atenção a slogans.
#Vitalik #AI对齐 #Kimi #Segurança
Segundo vários relatos, o cofundador do Ethereum, Vitalik Buterin, concorda com a decisão da Kimi 3.1 de excluir dos dados de treino capacidades avançadas de ciberataque. Defende que é melhor limitar as capacidades de acordo com o contexto de utilização do que discriminar os utilizadores com base na sua identidade. Também alertou que, se os riscos da IA forem mal geridos, podemos acabar com modelos excessivamente restritos, vigilância profunda e estratificação social.
Como interpretar isto: trata-se de uma questão de alinhamento de segurança, não apenas de relações públicas de produto. Para o setor das criptomoedas, o mais relevante é que a exposição dos modelos de código aberto, das ferramentas automatizadas de ataque e da infraestrutura on-chain vai aumentar em conjunto. Daqui para a frente, será mais útil acompanhar os limites públicos que cada empresa define para as «capacidades ofensivas» nos cartões dos modelos e perceber se a investigação em segurança mantém canais legítimos para exercícios de red team do que prestar atenção a slogans.
#Vitalik #AI对齐 #Kimi #Segurança