Уровень галлюцинаций в фактических тестах вырос, поскольку модели всё чаще обучаются на текстах, написанных другими моделями, а не людьми 📊
$AR built permanent storage so information stays verifiable after its maker is gone. $ROSE pioneered confidential compute so sensitive data can be used without being exposed to the operator.
Записи сохраняются. Чувствительные данные остаются запечатанными. Но качество утекает из самих моделей: синтетические тексты возвращаются в обучение, и редкие, настоящие знания исчезают. Больше вычислений не восполнит истощающийся колодец человеческого сигнала. Узкое место переместилось на данные.
Постоянный приток реальных, полученных с согласия человеческих данных, которые вносят люди, создавшие их, — это то, что пополняет тот колодец, восстанавливая его с помощью Vana.
#AI
$AR built permanent storage so information stays verifiable after its maker is gone. $ROSE pioneered confidential compute so sensitive data can be used without being exposed to the operator.
Записи сохраняются. Чувствительные данные остаются запечатанными. Но качество утекает из самих моделей: синтетические тексты возвращаются в обучение, и редкие, настоящие знания исчезают. Больше вычислений не восполнит истощающийся колодец человеческого сигнала. Узкое место переместилось на данные.
Постоянный приток реальных, полученных с согласия человеческих данных, которые вносят люди, создавшие их, — это то, что пополняет тот колодец, восстанавливая его с помощью Vana.
#AI