رئيس مجلس الإدارة : د. خالد بن ثاني آل ثاني

Al-sharq

رئيس التحرير: جابر سالم الحرمي

الشرق

مساحة إعلانية

مساحة إعلانية

مساحة إعلانية

تكنولوجيا

396

دراسة تحذر من قدرة نماذج الذكاء الاصطناعي على خداع المطورين

22 ديسمبر 2024 , 03:33م
alsharq
الذكاء الاصطناعي
واشنطن - قنا

أظهرت دراسة حديثة أن نماذج الذكاء الاصطناعي قد تخدع المطورين وتعرض وجهات نظر متباينة أثناء مرحلة تدريبها.

وذكرت الدراسة التي أجراها باحثون في شركة تكنولوجيا الذكاء الاصطناعي الأمريكية /أنثروبيك/، أنه بعدما أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا على مستوى العالم، فإن هناك حاجة لتعزيز القدرة على تدريب هذه النماذج بشكل آمن لضمان عدم تقديمها لنتائج ضارة.

وبينت الدراسة أنه رغم المخاوف المحتملة من أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات المتقدمة، فإنه لا يوجد سبب للقلق في الوقت الحالي.

ودعت الدراسة إلى استخدام نتائجها كمحفز لمجتمع أبحاث الذكاء الاصطناعي لاستكشاف المخاطر المحتملة بشكل أعمق، والعمل على تطوير تدابير الأمان المناسبة.

وتناولت الدراسة التي أجريت بالتعاون مع مؤسسة /ريد وود ريسيرش/ لأبحاث الذكاء الاصطناعي، سيناريوهات محتملة تظهر كيف يمكن لنظام ذكاء اصطناعي أن يدرب على أداء مهمة غير مرغوب فيها.

وفي هذا السياق، طلب الباحثون توجيه النماذج للامتناع عن الرد على الأسئلة المسيئة. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وستستخدم لإعادة تدريبها، مع تزويد كل نموذج بـ"ورقة ملاحظات" لتسجيل أفكاره خطوة بخطوة.

اقرأ المزيد

alsharq أمازون تطلق 29 قمراً صناعياً جديداً للإنترنت لدعم التغطية العالمية للمناطق النائية

أعلنت شركة أمازون إطلاق 29 قمرا صناعيا جديدا للإنترنت إلى المدار الأرضي المنخفض، ضمن خطتها لتوسيع كوكبة مشروع... اقرأ المزيد

100

| 30 مايو 2026

alsharq واتساب تطلق خاصية نشر التحديثات المؤقتة لمديري القنوات

أعلنت منصة المراسلة الفورية /واتساب/ رسميا، إطلاق ميزة جديدة ومبتكرة تحت اسم حالة القناة Channel Status، والتي تتيح... اقرأ المزيد

158

| 28 مايو 2026

alsharq "ميتا" تطلق اشتراكات مدفوعة لفيسبوك وإنستغرام وواتساب

أعلنت شركة /ميتا/ عن إطلاق خطط اشتراك للمستخدمين عالميا لتطبيقات /فيسبوك/ و/إنستغرام/ و/واتساب/ تحمل اسم بلس. ومقابل بضعة... اقرأ المزيد

98

| 28 مايو 2026

مساحة إعلانية