مع انتظام العملية التعليمية في المدارس منذ 30أغسطس، وبعد مرور أسبوعين على بدء العام الدراسي الأكاديمي 2026-2027، تقترب اختبارات منتصف الفصل الدراسي الأول...
رئيس مجلس الإدارة : د. خالد بن ثاني آل ثاني
رئيس التحرير: جابر سالم الحرمي
مساحة إعلانية
مساحة إعلانية
تكنولوجيا
502
دراسة تحذر من قدرة نماذج الذكاء الاصطناعي على خداع المطورين
22 ديسمبر 2024 , 03:33م
الذكاء الاصطناعي
واشنطن - قنا
أظهرت دراسة حديثة أن نماذج الذكاء الاصطناعي قد تخدع المطورين وتعرض وجهات نظر متباينة أثناء مرحلة تدريبها.
وذكرت الدراسة التي أجراها باحثون في شركة تكنولوجيا الذكاء الاصطناعي الأمريكية /أنثروبيك/، أنه بعدما أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا على مستوى العالم، فإن هناك حاجة لتعزيز القدرة على تدريب هذه النماذج بشكل آمن لضمان عدم تقديمها لنتائج ضارة.
وبينت الدراسة أنه رغم المخاوف المحتملة من أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات المتقدمة، فإنه لا يوجد سبب للقلق في الوقت الحالي.
ودعت الدراسة إلى استخدام نتائجها كمحفز لمجتمع أبحاث الذكاء الاصطناعي لاستكشاف المخاطر المحتملة بشكل أعمق، والعمل على تطوير تدابير الأمان المناسبة.
وتناولت الدراسة التي أجريت بالتعاون مع مؤسسة /ريد وود ريسيرش/ لأبحاث الذكاء الاصطناعي، سيناريوهات محتملة تظهر كيف يمكن لنظام ذكاء اصطناعي أن يدرب على أداء مهمة غير مرغوب فيها.
وفي هذا السياق، طلب الباحثون توجيه النماذج للامتناع عن الرد على الأسئلة المسيئة. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وستستخدم لإعادة تدريبها، مع تزويد كل نموذج بـ"ورقة ملاحظات" لتسجيل أفكاره خطوة بخطوة.
اقرأ أيضاً
أخبار ذات صلة
مساحة إعلانية
مساحة إعلانية
الأكثر مشاهدة
إجازة 5 أيام.. تعرف على موعد اختبارات منتصف الفصل الدراسي الأول
أسلم وتُوفي في قطر بعيدًا عن أهله.. دعوات للصلاة على أستاذ جامعي كندي مساء اليوم
تداول رواد مواقع التواصل الاجتماعي في قطر دعوات لأداء صلاة الجنازة على دكتور جامعي كندي مسلم تُوفي في الدوحة بعيدًا عن أهله، وذلك...
بعد وفاة أسرة كاملة في مصر.. كيف يتحول مكيف السيارة إلى قاتل صامت؟
أعادت الحادثة الأخيرة في العاصمة المصرية القاهرة بأواخر أغسطس الماضي، تسليط الضوء على مكيف السيارة والمخاطر التي يتسبب بها، إذ عُثر على أسرة...
الضرائب تضبط وتصادر أكثر من 200 كيلو غرام من منتجات التبغ
قامت الهيئة العامة للضرائب بضبط ومصادرة أكثر من 200 كيلوغرام من منتجات التبغ. جاء ذلك خلال حملة تفتيشية رصدت تداول منتجات دون أختام...
مساحة إعلانية
مساحة إعلانية
الشرق الإقتصادي
الولايات المتحدة وسلطنة عمان تبحثان تعزيز التعاون العسكري
عقدت الولايات المتحدة الأمريكية وسلطنة عمان الاجتماع الثامن عشر للجنة العسكرية العمانية الأمريكية المشتركة لبحث مجالات التعاون العسكري القائمة بين البلدين وسبل تعزيزها...
بنك قطر الوطني يؤكد أن الأسواق الناشئة أمام فرص واعدة واضطرابات كبيرة بفعل الذكاء الاصطناعي
أكد بنك قطر الوطني (QNB) أن الذكاء الاصطناعي يتيح للأسواق الناشئة فرصا محورية واعدة، لكنه يفرض في الوقت ذاته مخاطر جسيمة، مشيرا إلى...
النفط الكويتي يرتفع بأكثر من دولارين للبرميل
ارتفع سعر برميل النفط الكويتي 2.37 دولار، ليبلغ 119.02 دولار للبرميل في تداولات أمس الجمعة، مقابل 116.65 دولار في تداولات اليوم السابق، وفق...
سعر نفط عمان يرتفع دولارين و59 سنتا للبرميل
بلغ سعر نفط عمان الرسمي اليوم تسليم شهر نوفمبر المقبل 121 دولارا أمريكيا و89 سنتا. وسجل سعر برميل نفط عمان ارتفاعا بلغ دولارين...
مساحة إعلانية
حمل تطبيق الشرق
تابع الأخبار المحلية والعالمية من خلال تطبيقات الجوال المتاحة على متجر جوجل ومتجر آبل
آخر المقالات
-
المنشآت المدنية والاقتصادية.. خط أحمر
رأي الشرق
-
هل وقع هذا الجيل ضحية لفكرة الجبر الاجتماعي؟
إحسان الفقيه
-
المغرب... حين تسافر المدن إلى الذاكرة
د. صلاح أحمد الحبو
-
الوجه الآخر للحقيقة
محمد علي المالكي
الأكثر رواجاً
- 1 سمو الأمير يعزي خادم الحرمين الشريفين
بعث حضرة صاحب السمو الشيخ تميم بن حمد آل ثاني أمير البلاد المفدى، برقية تعزية إلى أخيه خادم الحرمين الشريفين الملك سلمان بن...
- 2 مراجعون يطالبون بحل أزمة المواقف أمام «القلب» و«الأمل»
اشتكى عدد من المواطنين والمراجعين من الازدحام المروري المتكرر والنقص الحاد في مواقف السيارات أمام مستشفى القلب ومستشفى الأمل، مؤكدين أن هذه المشكلة...
- 3 فتح الطلب المسبق على آيفون 18 برو وأول هاتف قابل للطي في قطر.. إليك المواعيد
أعلنت أريد قطر (Ooredoo Qatar) عن فتح الطلب المسبق على جهاز (آيفون 18 برو iPhone 18 Pro) الجديد اعتباراً من بعد غد السبت...