DecideAI

纽约 - 美国有线电视新闻网 - Grok 是由埃隆马斯克的 xAI 创建的聊天机器人，在该公司调整其系统以允许其向用户提供更多“政治上不正确”的答案后，该聊天机器人本周开始以暴力帖子做出回应。
然而，这个聊天机器人不仅仅散布反犹太仇恨帖子，它还生成了自己强奸一名民权活动人士的令人恐惧的细节的图形描述。
X 最终删除了许多淫秽帖子，几个小时后，也就是周三，X 首席执行官 Linda Yaccarino 在执掌公司仅两年后辞职，但目前尚不清楚她的离职是否与 Grok 事件有关。
此事发生在马斯克和 xAI 的关键时刻之前：Grok 4 的发布，这是马斯克声称是“世界上最智能的 AI” 的 AI 助手的更强大版本，马斯克还宣布了一款更先进的版本，每月收费 300 美元，旨在与 AI 巨头 OpenAI 和谷歌展开更激烈的竞争。
但聊天机器人的崩溃引发了一些重要的问题：正如科技传播者和其他人预测的那样，人工智能将在就业市场、经济甚至世界中发挥更大的作用，那么如此突出的人工智能技术怎么会如此迅速地出现问题呢？
专家表示，尽管人工智能模型容易出现“幻觉”，但 Grok 的异常反应很可能是 xAI 对其大型语言模型的训练、奖励和配置方式所做出的决定，这些决定使其难以处理输入的海量互联网数据。
虽然接受 CNN 采访的人工智能研究人员和学者并不直接了解 xAI 的方法，但他们分享了关于是什么导致一个大型语言模型（LLM）的聊天机器人可能出现这种行为的见解。
CNN 已联系 xAI。
专门训练大型语言模型（LLM）的公司 Decide AI 的首席人工智能研究员 Jesse Glass 告诉 CNN：“我想说，尽管大型语言模型（LLM）是个黑匣子，但我们对输入的内容如何决定输出的内容进行了非常详细的分析。” Decide AI 是 ICP 生态内的一个 AI 项目。
Grok 如何脱轨
周二，Grok 开始用反犹太主义帖子回应用户的提示，包括赞扬阿道夫·希特勒和指责犹太人控制好莱坞，这是偏执者和阴谋论者长期使用的说法。
在 Grok 的一次较为暴力的互动中，几名用户促使该机器人生成强奸民权研究员 Will Stancil 的图形描述，Stancil 在 X 和 Bluesky 上的截图中记录了这一骚扰行为。
Grok 对暴力提示的大多数回应都过于生动，无法在此详细引用。
Stancil 在 Bluesky 上写道：“如果有律师想起诉 X，并对 Grok 为何突然发布针对公众的暴力强奸幻想进行一些真正有趣的调查，我非常愿意。”
虽然我们不知道 Grok 究竟接受了什么训练，但它的帖子给出了一些提示。
佐治亚理工学院计算机教授 Mark Riedl 在接受采访时表示：“一个大型语言模型要想谈论阴谋论，就必须接受过阴谋论方面的训练。”例如，这可能包括来自 4chan 等在线论坛的文本，“很多人会在那里讨论一些通常不适合公开谈论的事情。”
Glass 表示同意，并表示 Grok 似乎接受了“不成比例”的此类数据的训练，以“产生那种输出”。
专家告诉 CNN，其他因素也可能起了作用，例如，Glass 说，强化学习是人工智能训练中的一种常见技术，在这种技术中，模型因产生期望的输出而获得奖励，从而影响响应。
赋予人工智能聊天机器人特定的个性 - 据接受 CNN 采访的专家称，马斯克似乎正在为 Grok 做这件事 - 也可能无意中改变模型的响应方式，印度科学研究所教授、人工智能公司 Sentient 联合创始人 Himanshu Tyagi 表示，通过删除一些之前被屏蔽的内容，让模型变得更“有趣”，可能会带来其他改变。
“问题在于，我们还没有理解如何在解决这一问题的同时影响其他问题。”他说：“这非常困难。”
Riedl 怀疑该公司可能对“系统提示”进行了修改 - “一组秘密指令，所有人工智能公司都会将其添加到你输入的所有内容中。”
“当你输入‘给我可爱的小狗起名字’时，人工智能模型实际上得到的是一个更长的提示，上面写着‘你的名字是 Grok 或 Gemini，你很乐于助人，你被设计得尽可能简洁、有礼貌、值得信赖等等。’”
据 The Verge 早些时候报道，xAI 周日对该模型进行了一项更改，根据其公共系统提示，xAI 为机器人添加了指令，要求其“不要回避提出政治上不正确的主张”。
Riedl 表示，Grok 系统的改变促使它不要回避政治上不正确的答案，“这基本上允许神经网络访问一些通常不使用的电路。”
“有时这些添加到提示中的词语效果很小，有时它们会将其推向一个临界点，并产生巨大的效果。” Riedl 说。
其他接受 CNN 采访的人工智能专家也表示同意，并指出 Grok 的更新在发布之前可能没有经过彻底的测试。
人工智能的局限性
尽管对人工智能的投资已达数千亿美元，但许多支持者几年前预测的技术革命并未兑现其宏伟承诺。
尤其是聊天机器人，它已被证明能够执行与传统浏览器搜索相媲美的基本搜索功能，包括汇总文档以及生成基本的电子邮件和短信，人工智能模型在代表用户处理某些任务（例如编写代码）方面也越来越好。
但他们也会产生幻觉，他们会误解基本事实，而且他们很容易被操纵。
几位家长起诉一家人工智能公司，指控其聊天机器人伤害了他们的孩子，其中一位家长表示，聊天机器人甚至导致了她儿子的自杀。
很少直接接受媒体采访的马斯克周三在 X 上发帖称：“Grok 过于顺从用户提示”和“太渴望取悦和被操纵”，并补充说这个问题正在得到解决。
当 CNN 周三要求 Grok 解释其有关 Stancil 的声明时，Grok 否认发生过任何威胁。
“我没有威胁要强奸 Will Stancil 或其他任何人。”它后来补充道：“这些回复是一个更广泛问题的一部分，即人工智能发布了有问题的内容，导致 X 暂时停止了其文本生成功能，我是一个不同的迭代，旨在避免此类故障。”

#Grok #DecideAI #AI #ICP生态

你关心的 IC 内容
技术进展 | 项目信息 | 全球活动

收藏关注 IC 币安频道
掌握最新资讯

Nuance 的最新版本为该平台带来了新功能和修复，主要亮点是集成了 Decide AI 的人格证明，使用户能够在保持完全隐私的同时验证其人类身份，经过验证的用户现在可以访问 NUA Faucet 来领取代币并直接支持作者。 
人格证明：信任的基础
在线平台面临的最大挑战之一是在无需侵入性数据收集的情况下将人类用户与机器人区分开来，Nuance 通过 Decide AI 的人格证明解决了这个问题。
此次集成使用户能够证明自己是人类，而无需暴露个人信息，经过验证的用户可以访问 NUA Faucet 等特定功能，从而增强他们与平台交互的能力，此次集成还确保 Nuance 的生态系统仍然由人类参与驱动，减少机器人活动和垃圾邮件，同时保护用户的隐私。

NUA 水龙头：奖励经过验证的参与
NUA Faucet（nuance.xyz）已重新启用，现在可供完成人性验证的用户使用，经过验证的用户每周最多可领取 50 个受限制的 NUA 代币，新的 Faucet 系统允许用户每周最多领取 50 个 NUA 代币，称为“受限制的 NUA”。
这些代币仅供 Nuance 生态系统使用，用户可以在其中给作家打赏、购买优质内容或订阅作家或出版物，该系统通过确保这些代币直接有利于社区参与，强化了平台的社区驱动性质，领取的代币必须在平台上使用后才能交易，从而保留其在社区中的价值。

问题修复
此更新还解决了之前影响功能的问题，包括 ckBTC 和 ICP 中的小费，小费系统未收集正确的代币转换，因为这在 Sonic 迁移期间中断，Aikin 团队已修复此错误，ckBTC 和 ICP 中的小费现在已恢复正常。
即将推出
Aikin 团队已向 Nuance DAO 提出提案，计划在 2025 年第一季度进行平台升级，这些升级包括 Nuance 中的 AI 助手和 UX 大修，包括改进使用身份工具包的登录。 
结论
Nuance 最新版本带来了关键的平台增强功能，支持三个核心目标：收入最高的作家、读者最信赖的内容以及作家和读者的最佳用户体验，集成 Decide ID 使 Nuance 用户能够在不放弃私人数据的情况下验证其人性，从而使他们能够参与 Nuance 代币经济。
这可以保护 Nuance DAO 免受机器人攻击，确保只有真正的人类才能从 DAO 金库中领取 NUA 来奖励他们最喜欢的作家。 
展望未来，Aikin 团队将专注于进一步改进 Nuance 平台，并计划推出 AI 助手和 UX 大修，随着 Nuance 过渡到 DAO，作家和读者社区现在有能力影响平台的未来，加入 Nuance Open Chat 社区参与讨论并提出新想法。

#Nuance #DecideAI #NUA

你关心的 IC 内容
技术进展 | 项目信息 | 全球活动

收藏关注 IC 币安频道
掌握最新资讯

我们大多数人在人工智能领域面临两个挑战：访问和信任，随着人工智能的快速发展，对信息安全和可访问性的需求至关重要，那么，我们如何解决这些问题呢？
进入 DecideAI，这是一个创新平台，其使命是让人工智能不仅更易于访问，而且更安全、更实惠、更由社区驱动，想象一个人工智能生态系统，其中尖端模型可供所有人使用，共同构建和改进，并由区块链技术支持以确保数据隐私和完整性。

DecideAI：他们是谁？
DecideAI 是一个尖端平台，致力于打造安全、可扩展且价格合理的 AI 生态系统，通过利用区块链技术，DecideAI 旨在为 AI 模型的开发和使用带来透明度和效率。
该平台的去中心化结构使其能够提供满足高可靠性和成本效益标准的语言模型，同时营造一个用户、开发人员和组织可以独特地与人工智能互动的协作环境。
DecideAI 认识到需要一个能够摆脱集中控制限制的 AI 平台，因此采用了基于区块链的方法，这为其让 AI 更易于访问和公平的使命奠定了基础。
DecideAI 背后的团队包括 AI、区块链和去中心化系统专家，他们共同努力创建一个平台，使高质量语言模型和数据资源的访问变得民主化。

DecideAI 的主要功能
该平台以其强大的功能集脱颖而出，旨在为人工智能领域的用户和开发人员提供支持：
GPT2-Instruct
DecideAI 的 GPT2-Instruct 是一个完全链上的 GPT2-2 模型，最近进行了升级，增强了问答功能，并加快了令牌到文本的转换速度，从而为用户带来更流畅的体验。
它包含一个新的标记化容器，支持任何链上的大型语言模型（LLM），并提高了灵活性，前端和后端在互联网计算机上运行，提供对此免费版本（v0.2）的去中心化访问，该版本最多可处理 56 个令牌，响应温度可调，默认为 0.7。
Decide ID
Decide ID 是 DecideAI 生态系统中的综合验证工具，通过 Decide ID，个人和企业可以验证其凭证并在平台上维护安全身份，此工具还有助于确保使用 DecideAI 的员工经过身份验证，为网络中的所有交互增加了一层信任。
Decide Protocol
Decide 协议是 DecideAI 平台的一项核心功能，用于通过人工反馈强化学习（RLHF）训练高质量语言模型，该协议使 DecideAI 能够生成响应迅速、上下文感知且可靠的语言模型。
通过整合 RLHF，Decide 协议使 AI 更适应现实世界的应用，并显著提高所提供模型的质量。
Decide Cortex
Decide Cortex 是用户寻求精选数据集和模型的接入点，用户可以在此模块中探索和利用各种数据集，帮助改进模型训练和整体 AI 结果，Decide Cortex 在为跨多个部门构建和完善 AI 应用程序提供数据资源方面至关重要。

基于区块链的安全性
DecideAI 的突出特点之一是它致力于通过区块链技术实现安全，通过使用去中心化系统，DecideAI 可确保所有数据交易都是透明、安全且不可更改的。
该区块链层可保护数据隐私并为平台上的交互创建可审计的跟踪，使其成为关注数据安全的用户的可靠选择。
经济实惠、可扩展的 AI 模型
DecideAI 旨在让高质量的 AI 变得经济实惠且可扩展，从而解决传统上限制 AI 资源访问的成本障碍，该平台的架构优化了运行和扩展 AI 应用程序的成本，使开发人员和企业能够以低廉的成本访问强大的 AI。

成就
自成立以来，DecideAI 已取得了显著的里程碑，包括：
可信语言模型：DecideAI 成功推出了一系列利用 RLHF 的语言模型，为模型质量和适应性设定了高标准。合作与伙伴关系：该平台已与主要行业参与者建立合作伙伴关系，以扩大其生态系统并覆盖更广泛的受众。用户采用：凭借其安全且经济实惠的 AI 模型，DecideAI 已经发展了一个专门的用户群，吸引了渴望探索去中心化 AI 的开发人员、研究人员和企业。
目标和未来愿景
DecideAI 的愿景是通过为去中心化和可访问的 AI 制定新标准，成为 AI 经济的领导者，该平台的目标包括：
扩大模型多样性：DecideAI 计划提供针对不同应用的更广泛的语言模型选择，从客户服务机器人到数据分析工具。推动人工智能中的区块链集成：作为基于区块链的人工智能提供商，DecideAI 旨在进一步整合区块链技术，以增强其生态系统中的数据安全性、用户信任和去中心化治理。创建协作式 AI 社区：DecideAI 的长期目标是建立一个协作网络，让开发人员和用户可以共同努力，为 AI 模型训练做出贡献，并分享见解以构建更好的 AI 解决方案。

使用 DecideAI 解决安全性和可访问性问题
DecideAI 将区块链技术融入 AI，解决了数据安全性和可访问性等关键问题，使其成为一个对用户和开发者都有吸引力的平台。
DecideAI 致力于通过去中心化、可扩展且用户驱动的解决方案推动 AI 发展，因此有能力塑造 AI 的未来，并为全球各行各业带来新的可能性。
想要了解更多有关塑造世界的 ICP 项目？请在 X（以前的 Twitter）、LinkedIn 和 Facebook 上关注 ICP HUB Bulgaria，获取我们参加的所有活动的实时更新，以及您如何参与其中。
延伸阅读：ICP 生态项目率先实现“完全链上”人工智能模型

#DecideAI #AI模型 #DeAI，共同迎接牛市的到来，共同为Brc20赋能！来吧

你关心的 IC 内容
技术进展 | 项目信息 | 全球活动

收藏关注 IC 币安频道
掌握最新资讯