Recentemente, me vi preso na frase “cadeia de custódia.”
Na medicina, uma amostra é coletada, selada, movida e testada, com cada passo registrado. O ponto é garantir que a amostra que chega ao laboratório é a mesma que veio do paciente.
Isso parece simples, mas eu continuei pensando sobre o que isso não garante.
Pode proteger a amostra.
Não pode proteger o julgamento que vem depois.
Um médico pode receber o resultado certo e ainda assim interpretá-lo de forma errada.
Isso soa familiar fora da medicina também.
Muita coisa na tecnologia agora tenta provar que algo é real, intocado, verificado. Os dados são autênticos. O cálculo aconteceu. A saída não foi alterada.
Muito do que estamos construindo na OpenGradient se encaixa nesse espaço—facilitando a verificação de onde a informação veio, como foi processada e se foi alterada ao longo do caminho.
E isso importa.
Mas, após toda a prova, alguém ainda precisa decidir o que isso significa.
Um resultado verificado ainda pode ser mal interpretado.
Um processo limpo ainda pode levar a uma má decisão.
Quanto mais eu penso sobre isso, mais suspeito que a confiança tem duas camadas muito diferentes: confiança no processo e confiança no julgamento que se segue.
Estamos fazendo progresso notável na primeira.
Estou menos certo sobre a segunda.
À medida que os sistemas se tornam cada vez mais capazes de provar sua própria correção, isso nos tornará mais sábios—ou simplesmente mais confiantes em nossas conclusões?
@OpenGradient #OPG #opg $OPG
Na medicina, uma amostra é coletada, selada, movida e testada, com cada passo registrado. O ponto é garantir que a amostra que chega ao laboratório é a mesma que veio do paciente.
Isso parece simples, mas eu continuei pensando sobre o que isso não garante.
Pode proteger a amostra.
Não pode proteger o julgamento que vem depois.
Um médico pode receber o resultado certo e ainda assim interpretá-lo de forma errada.
Isso soa familiar fora da medicina também.
Muita coisa na tecnologia agora tenta provar que algo é real, intocado, verificado. Os dados são autênticos. O cálculo aconteceu. A saída não foi alterada.
Muito do que estamos construindo na OpenGradient se encaixa nesse espaço—facilitando a verificação de onde a informação veio, como foi processada e se foi alterada ao longo do caminho.
E isso importa.
Mas, após toda a prova, alguém ainda precisa decidir o que isso significa.
Um resultado verificado ainda pode ser mal interpretado.
Um processo limpo ainda pode levar a uma má decisão.
Quanto mais eu penso sobre isso, mais suspeito que a confiança tem duas camadas muito diferentes: confiança no processo e confiança no julgamento que se segue.
Estamos fazendo progresso notável na primeira.
Estou menos certo sobre a segunda.
À medida que os sistemas se tornam cada vez mais capazes de provar sua própria correção, isso nos tornará mais sábios—ou simplesmente mais confiantes em nossas conclusões?
@OpenGradient #OPG #opg $OPG