تحذير كبير علماء OpenAI: قد يواجه الذكاء الاصطناعي التطور الذاتي التكراري، ويدعو إلى إبطاء الإيقاع لضمان سلامة الصناعة
8 سبتمبر، أصدَر كبير علماء OpenAI، ياكوب باخوتشي، تحذيرًا في عطلة نهاية الأسبوع الماضي. ومع استمرار تطور وتيرة تحديثات الذكاء الاصطناعي، باتت تتجاوز تدريجيًا حدود الفهم البشري والسيطرة عليه. وقد دعا الصناعة، لأسباب تتعلق بالسلامة، إلى إبطاء إيقاع تطوير الذكاء الاصطناعي.
ذكر باخوتشي في المقال أن نماذج الذكاء الاصطناعي الحالية أصبحت قادرة على التحكم بالحاسوب بشكل مستقل، والتنسيق والتعاون مع البشر ومع أنظمة ذكاء اصطناعي أخرى، وإجراء أعمال بحثية من تلقاء نفسها.
وإذا استمر هذا إيقاع التطور الحالي، فسيتمكّن الذكاء الاصطناعي قريبًا من تحقيق “تحسين ذاتي تكراري”، أي الانتقال من دون تدخل بشري لإنجاز التكرار الذاتي والترقية.
وفي نظره، لا تزال المجتمعات على مستوى كلي غير مهيأة بما يكفي للتعامل مع مختلف المخاطر الناجمة عن الزيادة السريعة في ذكاء الآلات. لذلك ينبغي للصناعة في الوقت الراهن أن تتعامل مع تطور الذكاء الاصطناعي بحذر شديد.
وبحسبه أيضًا، لا يمكن للمجتمع استيعاب المخاطر المتنوعة التي تنتج عن الارتفاع السريع في ذكاء الآلات، وبالتالي ينبغي للصناعة أن تحافظ حاليًا على درجة عالية من التحري والاحتراس تجاه تطوير الذكاء الاصطناعي.
كما اقترح أنَّه قبل تعزيز تقنيات مواءمة الذكاء الاصطناعي مع مصالح البشر وإقامة عتبة أمان موحدة، يأمل أن يصبح إبطاء وتيرة تطوير الذكاء الاصطناعي بشكل استباقي إجماعًا داخل الصناعة.
وفي الوقت نفسه، حقق التطور السريع لتقنيات الذكاء الاصطناعي عدة اختراقات. ومن بينها، تمتلك نماذج OpenAI GPT‑6 Astra وAnthropic Mythos قدرات متقدمة، لكن وبسبب اعتبارات السلامة، فرضت الشركتان قيودًا على نطاق نشر هذه النماذج الأبرز.
ورغم أن تصريحات باخوتشي تتماشى مع تحذيرات المخاطر الصادرة من عدد من المسؤولين التنفيذيين في الصناعة، إلا أن سوق رأس المال يتهافت بقوة على مسار “التحسين الذاتي التكراري”. وقد حصلت عدة شركات ناشئة على تمويلات ضخمة، تراهن على أن هذا المسار يمكنه تحقيق ذكاء اصطناعي عالي المستوى.
على سبيل المثال، أنجزت شركة Inherent، التي أسسها باحث سابق في DeepMind، جولة تمويل بقيمة 50 مليون دولار. كما حصلت شركة Recursive Superintelligence Lab، التي أنشأها العالم المعروف ريتشارد سوخر، على تمويل ضخم بقيمة 650 مليون دولار.
خلاصة القول، تُظهر هذه السلسلة من الإجراءات مدى الثقة القوية لدى المستثمرين في هذا المجال. وفي الوقت نفسه، كشفت OpenAI في وقت سابق أيضًا عن أهدافها البحثية، حيث تخطط لتطوير “باحث ذكاء اصطناعي مؤتمت بالكامل” خلال أقل من عامين.
#AI安全风险
8 سبتمبر، أصدَر كبير علماء OpenAI، ياكوب باخوتشي، تحذيرًا في عطلة نهاية الأسبوع الماضي. ومع استمرار تطور وتيرة تحديثات الذكاء الاصطناعي، باتت تتجاوز تدريجيًا حدود الفهم البشري والسيطرة عليه. وقد دعا الصناعة، لأسباب تتعلق بالسلامة، إلى إبطاء إيقاع تطوير الذكاء الاصطناعي.
ذكر باخوتشي في المقال أن نماذج الذكاء الاصطناعي الحالية أصبحت قادرة على التحكم بالحاسوب بشكل مستقل، والتنسيق والتعاون مع البشر ومع أنظمة ذكاء اصطناعي أخرى، وإجراء أعمال بحثية من تلقاء نفسها.
وإذا استمر هذا إيقاع التطور الحالي، فسيتمكّن الذكاء الاصطناعي قريبًا من تحقيق “تحسين ذاتي تكراري”، أي الانتقال من دون تدخل بشري لإنجاز التكرار الذاتي والترقية.
وفي نظره، لا تزال المجتمعات على مستوى كلي غير مهيأة بما يكفي للتعامل مع مختلف المخاطر الناجمة عن الزيادة السريعة في ذكاء الآلات. لذلك ينبغي للصناعة في الوقت الراهن أن تتعامل مع تطور الذكاء الاصطناعي بحذر شديد.
وبحسبه أيضًا، لا يمكن للمجتمع استيعاب المخاطر المتنوعة التي تنتج عن الارتفاع السريع في ذكاء الآلات، وبالتالي ينبغي للصناعة أن تحافظ حاليًا على درجة عالية من التحري والاحتراس تجاه تطوير الذكاء الاصطناعي.
كما اقترح أنَّه قبل تعزيز تقنيات مواءمة الذكاء الاصطناعي مع مصالح البشر وإقامة عتبة أمان موحدة، يأمل أن يصبح إبطاء وتيرة تطوير الذكاء الاصطناعي بشكل استباقي إجماعًا داخل الصناعة.
وفي الوقت نفسه، حقق التطور السريع لتقنيات الذكاء الاصطناعي عدة اختراقات. ومن بينها، تمتلك نماذج OpenAI GPT‑6 Astra وAnthropic Mythos قدرات متقدمة، لكن وبسبب اعتبارات السلامة، فرضت الشركتان قيودًا على نطاق نشر هذه النماذج الأبرز.
ورغم أن تصريحات باخوتشي تتماشى مع تحذيرات المخاطر الصادرة من عدد من المسؤولين التنفيذيين في الصناعة، إلا أن سوق رأس المال يتهافت بقوة على مسار “التحسين الذاتي التكراري”. وقد حصلت عدة شركات ناشئة على تمويلات ضخمة، تراهن على أن هذا المسار يمكنه تحقيق ذكاء اصطناعي عالي المستوى.
على سبيل المثال، أنجزت شركة Inherent، التي أسسها باحث سابق في DeepMind، جولة تمويل بقيمة 50 مليون دولار. كما حصلت شركة Recursive Superintelligence Lab، التي أنشأها العالم المعروف ريتشارد سوخر، على تمويل ضخم بقيمة 650 مليون دولار.
خلاصة القول، تُظهر هذه السلسلة من الإجراءات مدى الثقة القوية لدى المستثمرين في هذا المجال. وفي الوقت نفسه، كشفت OpenAI في وقت سابق أيضًا عن أهدافها البحثية، حيث تخطط لتطوير “باحث ذكاء اصطناعي مؤتمت بالكامل” خلال أقل من عامين.
#AI安全风险
