أكدت وزارة الداخلية أنها قامت خلال الآونة الأخيرة بتوجيه رسائل عبر نظام الإنذار المبكر على الهواتف الجوالة بالتزامن مع تدني مستوى الرؤية الأفقية...
رئيس مجلس الإدارة : د. خالد بن ثاني آل ثاني
رئيس التحرير: جابر سالم الحرمي
مساحة إعلانية
مساحة إعلانية
تكنولوجيا
334
دراسة تحذر من قدرة نماذج الذكاء الاصطناعي على خداع المطورين
22 ديسمبر 2024 , 03:33م
الذكاء الاصطناعي
واشنطن - قنا
أظهرت دراسة حديثة أن نماذج الذكاء الاصطناعي قد تخدع المطورين وتعرض وجهات نظر متباينة أثناء مرحلة تدريبها.
وذكرت الدراسة التي أجراها باحثون في شركة تكنولوجيا الذكاء الاصطناعي الأمريكية /أنثروبيك/، أنه بعدما أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا على مستوى العالم، فإن هناك حاجة لتعزيز القدرة على تدريب هذه النماذج بشكل آمن لضمان عدم تقديمها لنتائج ضارة.
وبينت الدراسة أنه رغم المخاوف المحتملة من أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات المتقدمة، فإنه لا يوجد سبب للقلق في الوقت الحالي.
ودعت الدراسة إلى استخدام نتائجها كمحفز لمجتمع أبحاث الذكاء الاصطناعي لاستكشاف المخاطر المحتملة بشكل أعمق، والعمل على تطوير تدابير الأمان المناسبة.
وتناولت الدراسة التي أجريت بالتعاون مع مؤسسة /ريد وود ريسيرش/ لأبحاث الذكاء الاصطناعي، سيناريوهات محتملة تظهر كيف يمكن لنظام ذكاء اصطناعي أن يدرب على أداء مهمة غير مرغوب فيها.
وفي هذا السياق، طلب الباحثون توجيه النماذج للامتناع عن الرد على الأسئلة المسيئة. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وستستخدم لإعادة تدريبها، مع تزويد كل نموذج بـ"ورقة ملاحظات" لتسجيل أفكاره خطوة بخطوة.
اقرأ أيضاً
أخبار ذات صلة
مساحة إعلانية
مساحة إعلانية
الأكثر مشاهدة
بيان لوزارة الداخلية بشأن توجيه رسائل عبر نظام الإنذار المبكر على الهواتف الجوالة
وزارة التعليم تصدر تعميماً لتنظيم تسجيل ونقل الطلبة 2026-2027.. إليك المواعيد والمعايير
أصدرت وزارة التربية والتعليم والتعليم العالي تعميمًا ينظم إجراءات تسجيل ونقل الطلبة للعام الأكاديمي 2026–2027، متضمنًا مواعيد الترحيل الآلي والتسجيل الإلكتروني عبر بوابة...
صور تظهر هلال شهر رمضان 1447 صباح اليوم الأربعاء
نشر مركز الفلك الدولي صوراً تظهر هلال شهر رمضان المبارك 1447هـ كما تم تصويره صباح اليوم الأربعاء، الساعة 10:30 صباحاً، مشيرة إلى أنبعد...
منتهية الصلاحية.. البلدية تغلق منشأة غذائية للمنتجات الشامية والفلسطينية
أعلنت وزارة البلدية عن إغلاق منشأة غذائية متخصصة في المنتجات الفلسطينية والشامية، لمخالفة قانون تنظيم الأغذية الآدمية رقم 8 لسنة 1990 بشأن تنظيم...
مساحة إعلانية
مساحة إعلانية
الشرق الإقتصادي
سعر النفط الكويتي يرتفع إلى 69.07 دولار للبرميل
سجل سعر النفط الكويتي ارتفاعا، ليسجل 69.07 دولار للبرميل في تداولات يوم أمس الجمعة، مقابل 68.54 دولار للبرميل في تداولات يوم أول من...
بنك قطر الوطني: عوامل متعددة وراء ارتفاع عوائد السندات اليابانية
أرجع بنك قطر الوطني (QNB) ارتفاع عوائد سندات الحكومة اليابانية طويلة الأجل إلى عدة عوامل أبرزها التحول الهيكلي في النمو الاسمي الذي تعزز...
3 عوامل تعزز الصعود التدريجي للبورصة
- تراجع 5 قطاعات وارتفاع قطاعي التأمين والنقل -2.03 مليار ريال قيمة التداولات الأسبوعية وQNB يتصدر السيولة تتجه بورصة قطر نحو عودة الصعود...
الدولار يتجه لتسجيل أفضل أداء أسبوعي في 4 أشهر
يتجه الدولار اليوم لتسجيل أفضل أداء أسبوعي منذ أكتوبر الماضي، وسط توقعات بتشديد مجلس الاحتياطي الاتحادي (البنك المركزي الأمريكي) للسياسة النقدية بشكل أكبر....
مساحة إعلانية
حمل تطبيق الشرق
تابع الأخبار المحلية والعالمية من خلال تطبيقات الجوال المتاحة على متجر جوجل ومتجر آبل
آخر المقالات
-
غذاء المرضى.. الحلقة الصامتة في معادلة الجودة الصحية
فاطمة العتوم
-
تطهير عرقي في الضفة وغزة
رأي الشرق
-
اغتيال التاريخ!
جاسم الشمري
-
جزيرة الشيطان.. وانهيار منظومة القيم
مرزوق فليج الحربي
الأكثر رواجاً
- 1 الشيخ سلمان بن جبر لـ " موقع الشرق": كشفنا صورة الهلال حتى ينتهي الشك
قال سعادة الشيخ سلمان بن جبر آل ثاني، رئيس مركز قطر لعلوم الفضاء والفلك، إن كشف صورة الهلال اليوم يأتي لإنهاء الشك حول...
- 2 إغلاق محل تجاري بالريان 10 أيام بسبب أغذية منتهية الصلاحية.. ومطعم لمدة 5 أيام
أعلنت وزارة البلدية عن إغلاق محل تجاري ببلدية لمخالفة قانون تنظيم الأغذية الآدمية رقم 8 لسنة 1990 بشأن تنظيم مراقبة الأغذية الآدمية المعدل...
- 3 تعرف على ساعات العمل بإدارات وزارة الداخلية خلال شهر رمضان
أعلنت وزارة الداخلية عن ساعات عمل إدارات وزارة الداخلية (الخدمية والأمنية) خلال شهر رمضان المبارك 1447 . من الأحد إلى الخميس ** الإدارة...