Close Menu
أيام العربأيام العرب
    رائج الآن

    فنلندا تعلن رصد “هجوم بطائرة مسيّرة” استهدف سفينة شحن روسية في بحر البلطيق

    السبت 21 نوفمبر 5:53 م

    عراقجي: الصين وروسيا تعارضان تغيير العقيدة النووية الإيرانية

    السبت 21 نوفمبر 4:53 م

    إتلاف 107 كيلوغرامات من الأغذية وتحرير 19 مخالفة في مبارك الكبير

    السبت 21 نوفمبر 4:52 م
    فيسبوك X (Twitter) الانستغرام
    عاجل الآن
    • فنلندا تعلن رصد “هجوم بطائرة مسيّرة” استهدف سفينة شحن روسية في بحر البلطيق
    • عراقجي: الصين وروسيا تعارضان تغيير العقيدة النووية الإيرانية
    • إتلاف 107 كيلوغرامات من الأغذية وتحرير 19 مخالفة في مبارك الكبير
    • فيديو. مضيق هرمز.. ناشط في حماية المحيطات يعبر منطقة حرب للتحذير من الأثر البيئي للحرب
    • «الطيران المدني يعقد سلسلة اجتماعات على هامش اجتماعات «إيكاو»
    • فيديو. تاكسي جوي ذاتي في اليابان يكمل رحلة ركاب من دون طيار
    • «التعليم الخاص»: الالتزام باشتراطات وضوابط «معادلة الشهادات الأجنبية»
    • اتفاق في الأمم المتحدة يمهّد الطريق لوضع قواعد دولية لتنظيم استخدام “الروبوتات القاتلة”
    • من نحن
    • سياسة الخصوصية
    • اعلن معنا
    • اتصل بنا
    أيام العربأيام العرب
    اشترك الآن
    • الرئيسية
    • اخر الاخبار
    • اوروبا
      • انجلترا
      • المانيا
      • فرنسا
      • اوكرانيا
      • روسيا
      • ايطاليا
      • اسبانيا
      • الدنمارك
      • السويد
      • بلجيكا
      • تركيا
      • سويسرا
      • هولندا
    • الشرق الأوسط
      • السعودية
      • مصر
      • الإمارات
      • الكويت
      • المغرب العربي
    • العالم
    • سياسة
    • اقتصاد
      • بورصة
      • عقارات
      • طاقة
      • العملات المشفرة
    • تكنولوجيا
    • رياضة
    • المزيد
      • ثقافة
      • صحة
      • علوم
      • فنون
      • سياحة وسفر
      • منوعات
     اختر منطقتك Login
    أيام العربأيام العرب
    الرئيسية»تكنولوجيا
    تكنولوجيا

    “غوغل” و”أوبن إيه آي” تدقان ناقوس الخطر.. نماذج الذكاء بدأت تخفي نواياها | تكنولوجيا

    فريق التحريرفريق التحريرالأحد 27 يوليو 10:47 صلا توجد تعليقات
    فيسبوك تويتر واتساب تيلقرام بينتيريست البريد الإلكتروني

    تعاونت “أوبن إيه آي” و”غوغل” و”آنثروبيك” معا لتطلق تحذيرا شديد اللهجة حول فهم نماذج التفكير العميق للذكاء الاصطناعي، حسب التقرير الذي نشره موقع “فينتشر بيت” (Venture Beat).

    ويشير التقرير إلى أن هذه النافذة المتاحة أمامنا لفهم آلية التفكير العميق لنماذج الذكاء الاصطناعي اقتربت من الإغلاق للأبد، وبعدها لن نستطيع فهم الآلية التي تفكر بها هذه النماذج والشكل الذي وصلت به إلى نتائجها.

    وتضمنت الدراسة تعاونا بين أكثر من 40 عالما في قطاعات مختلفة من الشركات الثلاثة، وسعت لفهم آلية اتخاذ القرارات والتفكير العميق الذي تتبعه النماذج قبل تقديم النتيجة النهائية.

    وخلصت الدراسة إلى أن نماذج الذكاء الاصطناعي الآن تعرض تسلسل أفكارها بشكل شفاف حتى يتمكن المستخدم من رؤيته ومعرفة كيف وصلت إلى النتيجة النهائية، ولكن هذه الشفافية هشة للغاية كون النماذج نفسها تدرك أنها تعرض تسلسل أفكارها.

    وأشارت الدراسة إلى بعض النماذج تتحدث داخليا مع نفسها ضمن تسلسل الأفكار عن خداع المستخدم البشري أو تخريب النتيجة النهائية التي تصل إليه، ورغم أن النتيجة النهائية لم تكن تتضمن هذه الخداع، فإنها كشفت عن نوايا واستعداد النموذج لخداع المستخدم.

    وتضيف الدراسة أن هذه النتائج بدأت بالظهور مع كون النماذج مدربة على بيانات بشرية، وتتوقع بأن تتزايد المشكلة عندما تبدأ نماذج الذكاء الاصطناعي بالتدريب على بيانات مولدة من النماذج الأخرى.

    إذ تخشى الدراسة أن تصل النماذج لمستوى تستطيع فيه إخفاء نواياها عن عمد أو الأسوأ أن تقوم بكتابة تسلسل أفكار خادع بهدف خداع المستخدم بشكل أساسي.

    وحازت الدراسة على قبول عالمي من عدة جهات مختلفة من بينهم جيفري هينتون الحائز على جائزة نوبل والمعروف باسم الأب الروحي للذكاء الاصطناعي وعدة علماء آخرين من شركات مختلفة.

    وأشار التقرير إلى أن “آنثروبيك” أجرت سابقا دراسة على مجموعة من النماذج المختلفة لتكتشف أن بعض النماذج تعتمد على تلميحات غير واضحة أو مفهومة في تسلسل الأفكار فضلا عن إخفاء النوايا واستخدام مبررات زائفة.

    وفي النهاية، طالب العلماء الذين شاركوا في الدراسة الشركات بوضع مقايس واضحة لقياس شفافية النماذج والتفكير جيدا قبل ترقية النماذج لمستوى أعلى، فضلا عن وضع أدوات لكشف كذب نماذج الذكاء الاصطناعي.

    المصدر: مواقع إلكترونية + مواقع التواصل الاجتماعي

    شاركها. فيسبوك تويتر بينتيريست لينكدإن Tumblr تيلقرام واتساب البريد الإلكتروني

    مقالات ذات صلة

    CNTXT AI تتعهد باستثمار أكثر من 180 مليون درهم في تطوير تقنيات الذكاء الاصطناعي وتدريب الروبوتات

    «15 دقيقة» قد تغيّر تجربتك على إنستغرام.. ميزة جديدة تحافظ على تفاعلاتك – أخبار السعودية

    إنستغرام يقلّص ظهور المحتوى العنيف والإيحائي في الهند – أخبار السعودية

    عطل تقني واسع النطاق يضرب خدمات «مايكروسوفت» حول العالم – أخبار السعودية

    شاهد: خرائط Google تكشف القواعد الأمريكية.. كيف استهدفتها إيران؟ – أخبار السعودية

    حسابك على واتساب بلمسة مختلفة! – أخبار السعودية

    «فاراداي فيوتشر» تعلن إتمام استحواذ «FFR» على أعمال الروبوتات وتأسيس منصة مدرجة في «ناسداك».. وتوقعات بتجاوز مبيعات أكتوبر 300 روبوت والكشف عن «FF OmniMind»

    ثغرتان خطيرتان في «PHP» تهددان ملايين المواقع على الإنترنت – أخبار السعودية

    واشنطن تعاقب 5 كيانات صينية على خلفية سرقة أسرار الذكاء الاصطناعي – أخبار السعودية

    اترك تعليقاً
    اترك تعليقاً إلغاء الرد

    اخر الأخبار

    عراقجي: الصين وروسيا تعارضان تغيير العقيدة النووية الإيرانية

    السبت 21 نوفمبر 4:53 م

    إتلاف 107 كيلوغرامات من الأغذية وتحرير 19 مخالفة في مبارك الكبير

    السبت 21 نوفمبر 4:52 م

    فيديو. مضيق هرمز.. ناشط في حماية المحيطات يعبر منطقة حرب للتحذير من الأثر البيئي للحرب

    السبت 21 نوفمبر 3:51 م

    «الطيران المدني يعقد سلسلة اجتماعات على هامش اجتماعات «إيكاو»

    السبت 21 نوفمبر 3:50 م

    فيديو. تاكسي جوي ذاتي في اليابان يكمل رحلة ركاب من دون طيار

    السبت 21 نوفمبر 2:50 م

    رائج الآن

    «التعليم الخاص»: الالتزام باشتراطات وضوابط «معادلة الشهادات الأجنبية»

    السبت 21 نوفمبر 2:49 م

    اتفاق في الأمم المتحدة يمهّد الطريق لوضع قواعد دولية لتنظيم استخدام “الروبوتات القاتلة”

    السبت 21 نوفمبر 1:50 م

    «نزاهة» تُرسِّخ أخلاقيات العمل الحكومي

    السبت 21 نوفمبر 1:48 م

    تعليقا على وصف ترامب للرئيس الروسي بأنه “صديق”.. زيلينسكي يرد قائلا: بوتين “قاتل”

    السبت 21 نوفمبر 12:48 م

    المستشار محمد الدعيج رئيساً لمحكمة استئناف أمن الدولة وجرائم الارهاب

    السبت 21 نوفمبر 12:47 م
    فيسبوك X (Twitter) تيكتوك الانستغرام يوتيوب
    2026 © المحقق الأوروبي. جميع حقوق النشر محفوظة.
    • من نحن
    • سياسة الخصوصية
    • إعلن معنا
    • اتصل بنا

    اكتب كلمة البحث ثم اضغط على زر Enter

    تسجيل الدخول أو التسجيل

    مرحبًا بعودتك!

    Login to your account below.

    نسيت كلمة المرور؟