السيناريوهات المروعة للذكاء الاصطناعي التي تثير مخاوف الحكومة البريطانية

مخاطر الذكاء الاصطناعي . السيناريوهات المروعة للذكاء الاصطناعي التي تثير مخاوف الحكومة البريطانية

تحذير حكومي بريطاني يتناول مخاطر الذكاء الاصطناعي، بما في ذلك تهديدات بصناعة الأسلحة البيولوجية القاتلة وهجمات الأمان السيبراني التلقائية وهروب نماذج الذكاء الاصطناعي عن السيطرة البشرية.

يشير التقرير إلى أن الذكاء الاصطناعي يمكن أن يشكل تهديدات محتملة،

مثل الأسلحة البيولوجية القاتلة والهجمات السيبرانية التلقائية وهروب النماذج القوية من السيطرة البشرية.

تم إصدار هذا التقرير من قبل الحكومة البريطانية لتحديد جدول أعمال قمة دولية حول سلامة الذكاء الاصطناعي ستستضيفها المملكة المتحدة في الأسبوع القادم.

يشمل التقرير مدخلات من شركات الذكاء الاصطناعي الرائدة مثل Google’s DeepMind ووزارات حكومية عديدة في المملكة المتحدة، بما في ذلك وكالات المخابرات.

يقول جو وايت، مبعوث التكنولوجيا البريطاني للولايات المتحدة، إن القمة توفر فرصة لجمع الدول وشركات الذكاء الاصطناعي الرائدة معًا لفهم أفضل المخاطر التي يمكن أن يشكلها الذكاء الاصطناعي.

ستتطلب إدارة السلبيات المحتملة للخوارزميات التعاون البشري التقليدي، وهذه تحديات بشرية بين البشر وليست بين الآلات والبشر.

سيقدم رئيس الوزراء البريطاني، ريشي سوناك، خطاباً يوم غدٍ حول كيفية استغلال الذكاء الاصطناعي لفتح آفاق جديدة للبشرية

وفي الوقت نفسه التحدث بصراحة عن المخاطر الجديدة التي يمكن أن يخلقها للأجيال القادمة.

ستعقد قمة سلامة الذكاء الاصطناعي في المملكة المتحدة يومي 1 و2 نوفمبر وستركز بشكل رئيسي على كيفية استخدام الأشخاص للذكاء الاصطناعي المتقدم أو فقدان السيطرة عليه.

مخاطر الذكاء الاصطناعي

وقد انتقد بعض خبراء الذكاء الاصطناعي والمديرون التنفيذيين في المملكة المتحدة التركيز على هذا الحدث، معتبرين أن الحكومة يجب أن تولي الأولوية للمخاوف الأقرب في الوقت الحالي،

مثل مساعدة المملكة المتحدة في المنافسة مع قادة الذكاء الاصطناعي العالميين مثل الولايات المتحدة والصين.

وقد حذر بعض خبراء الذكاء الاصطناعي من أن النقاش الأخير حول سيناريوهات الذكاء الاصطناعي البعيدة،

بما في ذلك احتمالية انقراض الإنسان، قد يشتت الانتباه عن المشرعين والجمهور عن مشاكل أكثر فورية،

مثل الخوارزميات المتحيزة أو تقنية الذكاء الاصطناعي التي تعزز الشركات الرائدة بالفعل.

يتناول التقرير البريطاني الصادر اليوم أيضًا كيف يمكن للذكاء الاصطناعي أن يفلت من السيطرة البشرية.

إذا تعود الناس على تسليم القرارات الهامة للخوارزميات، “يصبح من الصعب بشكل متزايد على البشر استعادة السيطرة”،

ولكن “احتمال هذه المخاطر لا يزال محل جدل، حيث يعتقد كثير من الخبراء أن احتمالية حدوثها منخفضة جدًا

ويجادل البعض الآخر في أن التركيز على المخاطر يشتت الانتباه عن الأضرار الحالية”.

إلى جانب الجهات الحكومية، تم مراجعة التقرير الذي تم إصداره اليوم أيضًا من قبل لجنة تضم خبراء في السياسة والأخلاق من مختبر الذكاء الاصطناعي DeepMind التابع لشركة Google وشركة Hugging Face،

وهي شركة ناشئة تعمل على تطوير برمجيات ذكاء اصطناعي مفتوحة المصدر.

وقدم يوشوا بينجيو استشارته أيضًا، ويوشوا أحد “آباء الذكاء الاصطناعي” الثلاثة الذين فازوا بأعلى جائزة في مجال الحوسبة، جائزة تورينغ، لتقنيات التعلم الآلي المركزة في الانتعاش الحالي للذكاء الاصطناعي.

وقد قال بينجيو مؤخرًا إن تفاؤله بالتكنولوجيا التي ساعد في تطويره قد انقلب رأسًا على عقب

وأنه يحتاج إلى تأسيس منظمة جديدة للدفاع عن الإنسانية للمساعدة في الحفاظ على الذكاء الاصطناعي تحت السيطرة.

المصدر

اقرأ أيضاً مقالات أكثر في هذا التصنيف