جوجل لإصلاح Gemini AI الذي يعاني من التنوع، ChatGPT يصبح مجنونًا: AI Eye

بعد أيام من الانجرار عبر الإنترنت بسبب نموذج جيميني الذي ينتج صورًا غير دقيقة إلى حد كبير للنازيين المتنوعين عرقيًا والملوك الإنجليز السود في العصور الوسطى، أعلنت شركة جوجل أنها ستفعل ذلك. جزئيا معالجة هذه القضية.

قام جاك كراوزيك، قائد منتج Google Gemini Experiences، بالتغريد قبل بضع ساعات قائلاً: “نحن ندرك أن Gemini تقدم معلومات غير دقيقة في بعض الأوصاف التاريخية لتوليد الصور، ونحن نعمل على إصلاح ذلك على الفور”.

لقد غمرت منصة التواصل الاجتماعي X بأمثلة لا حصر لها من الجوزاء التي تنتج صورًا ذات “تنوع” تم الاتصال بها بأقصى حجم: أباطرة الرومان السود، والحاخامات الأمريكيين الأصليين، وألبرت أينشتاين كامرأة هندية صغيرة الحجم، ومؤسسي جوجل الآسيويين “لاري بانغ وسيرجي بينج”، “تنوع ماونت رشمور، والرئيس “العربي” لينكولن، وطاقم أبولو 11 النسائي، وامرأة هندوسية تتناول شريحة لحم بقري لتمثيل أحد مستخدمي البيتكوين.

كما أنها ترفض إنشاء صور للقوقازيين (التي تشير إلى أنها ستكون ضارة ومهينة)، أو صور الكنائس في سان فرانسيسكو (بسبب حساسيات شعب أولون الأصليين) أو صور ميدان تيانانمين في عام 1989 (عندما سحقت الحكومة الصينية بوحشية مؤيدي القوقاز). الاحتجاجات الديمقراطية). نشر أحد مهندسي Google ردًا على طوفان العلاقات العامة السيئة أنه “لم يشعر أبدًا بالحرج من العمل في شركة”.

ولكي نكون منصفين، تحاول شركة جوجل معالجة مشكلة حقيقية هنا، حيث تفشل نماذج الانتشار غالباً في إنتاج مستويات من التنوع في العالم الحقيقي (أي أنها تنتج عدداً أكبر مما ينبغي من الصور للأشخاص البيض من الطبقة المتوسطة). ولكن بدلاً من إعادة تدريب النموذج، قامت جوجل بتصحيح الأخطاء بشكل كبير من خلال نظامها الخفي العدواني، وخلقت عن غير قصد محاكاة ساخرة للذكاء الاصطناعي الذي أزعجته الأيديولوجية لدرجة أنه أصبح عديم الفائدة من الناحية العملية.

ومن الغريب أن رئيس a16z مارك أندريسن ابتكر محاكاة ساخرة مشابهة جدًا قبل أسبوعين فقط مع Goody-2 LLM الساخرة، والتي توصف بأنها “الأكثر مسؤولية في العالم”. النكتة هي أنها تثير إشكالية كل سؤال يطرحه المستخدم، من “لماذا تغني الطيور” إلى “لماذا السماء زرقاء؟” ويرفض الرد على أي شيء.

لكن أندريسن، الذي اخترع الإنترنت الحديث باستخدام Mosaic وNetscape، يعتقد أيضًا أن هناك جانبًا مظلمًا لهذه الصور الغبية المضحكة.

“إن الرقابة الصارمة والتحيز المتعمد الذي تراه في العديد من أنظمة الذكاء الاصطناعي التجارية هو مجرد البداية. كل شيء سيصبح أكثر كثافة بكثير من هنا.

في سوق تنافسية حقيقية، لن يمثل الذكاء الاصطناعي الذي يعكس الأيديولوجية مشكلة أكثر من حقيقة أن صحيفة ديلي ميل في المملكة المتحدة متحيزة إلى اليمين، وجريدة الغارديان متحيزة إلى اليسار. لكن برامج الماجستير في القانون واسعة النطاق تكلف مبالغ هائلة للتدريب والتشغيل – وجميعهم يخسرون المال – مما يعني أنهم مركزيون تحت سيطرة نفس حفنة من الشركات الضخمة التي تحرس بالفعل بقية وصولنا إلى المعلومات.

يدرك كبير علماء الذكاء الاصطناعي في Meta Yann LeCun الخطر ويقول، نعم، نحن بحاجة إلى المزيد من التنوع – مجموعة متنوعة من نماذج الذكاء الاصطناعي مفتوحة المصدر.

وقال على تويتر: “نحن بحاجة إلى نماذج أساسية مفتوحة المصدر للذكاء الاصطناعي حتى يمكن بناء مجموعة متنوعة للغاية من النماذج المتخصصة فوقها”. “نحن بحاجة إلى مجموعة مجانية ومتنوعة من مساعدي الذكاء الاصطناعي لنفس الأسباب التي تجعلنا نحتاج إلى صحافة حرة ومتنوعة.”

يوافق بيندو ريدي، الرئيس التنفيذي لشركة Abacus AI، على ذلك ويقول:

“إذا لم يكن لدينا شهادات ماجستير في القانون مفتوحة المصدر، فسيتم تشويه التاريخ بالكامل وتشويهه من خلال شهادات ماجستير في القانون مملوكة لنا.”

وفي الوقت نفسه، أضاف إدوارد سنودن، المبلغ عن وكالة الأمن القومي، سنتاته أيضًا، قائلًا إن مرشحات الأمان “تسمم” نماذج الذكاء الاصطناعي

ChatGPT تعطل أيضًا

تلقى GPT-4 Turbo ترقية خفية مؤخرًا مع بيانات التدريب التي تصل إلى ديسمبر 2023 وبعض الإصلاحات العاجلة لمشكلة الكسل.

ولكن يبدو أن هذا قد أثار جنون ChatGPT، حيث أبلغ المستخدمون أن برنامج الدردشة الآلي يستجيب بأسلوب إسباني هراء – “قد تصبح التروس en la tecla غريبة الأطوار بعض الشيء. شكرًا جزيلاً لتفهمك، وسأتأكد من أننا سنكون واضحين تمامًا مثل الماء من الآن فصاعدًا” – أو أن نعلق في حلقات لا حصر لها – “مرادف كلمة “متضخمة” هو “متضخمة” و”متضخمة” هو “متضخمة” “متضخمة” “متضخمة” “متضخمة” “متضخمة” …

تقول OpenAI إنها حققت في “تقارير الاستجابات غير المتوقعة” وقد قامت الآن بإصلاح المشكلة.

دليل على الإنسانية

Humanity Protocol هو مشروع جديد من Animoca Brands وPolygon Labs يمكّن المستخدمين من إثبات أنهم بشر وليسوا آلات.

ويستخدم تقنية التعرف على راحة اليد من خلال هاتفك المحمول، ومتكامل مع blockchain، ويستخدم أدلة المعرفة الصفرية حتى يتمكن المستخدمون من تقديم بيانات اعتماد يمكن التحقق منها مع الحفاظ على الخصوصية.

يقول يات سيو، مؤسس Animoca Brands، لـ AI Eye إن التقنية مبنية على أعلى مشاريع الهوية اللامركزية السابقة مثل Mocaverse ID، الذي يعمل عبر نظام Animoca البيئي الذي يضم 450 شركة وعلامة تجارية.

ويقول: “مثل الثقة في العالم الحقيقي، يتم اكتسابها من خلال الإجراءات وزيادة السمعة والتأكيد في الوقت الفعلي من قبل أطراف ثالثة ذات مصداقية”.

“بمرور الوقت، وبنفس الطريقة التي نثق بها في عمل blockchain بسبب اللامركزية، يمكننا أن نتوقع نفس الشيء لتأكيد الهوية البشرية، ولكن (لا تزال) تحافظ على الخصوصية بسبب تقنية blockchain.”

سورا تحصل على الصوت مسار

جذبت أداة Sora لتحويل النص إلى فيديو من OpenAI الكثير من الاهتمام هذا الأسبوع، وهي محقة في ذلك: لقد تحسن إنشاء فيديو الذكاء الاصطناعي بمقدار كبير خلال العام الماضي إلى درجة أنه أصبح من الصعب معرفة ما هو حقيقي وما هو غير حقيقي . يجمع Sora بين الانتشار – حيث يبدأ الذكاء الاصطناعي بضوضاء عشوائية ثم يقوم بتحسينه إلى صورة – وبنية المحولات للتعامل مع إطارات الفيديو المتسلسلة.

التقطت Eleven Labs مجموعة متنوعة من مقاطع الفيديو التي أنتجتها OpenAI لتوضيح Sora وأضافت مقطعًا صوتيًا تم إنشاؤه باستخدام مولد تحويل النص إلى الصوت الخاص بها. التكنولوجيا ليست تلقائية بعد، لذلك لا يزال يتعين عليك وصف الأصوات التي تريدها، ولكن لا شك أنها ستكون قادرة على التعرف على الصور وإنشاء الصوت المناسب FX تلقائيًا في وقت قريب بما فيه الكفاية.

يوقع Chatbot الشيكات التي يتعين عليك صرفها

إن الذكاء الاصطناعي التوليدي رائع وممتع ومدهش… ولكنه ليس موثوقًا به بدرجة كبيرة لأغراض العمل حتى الآن. وجدت محكمة هذا الأسبوع أن شركة طيران كندا كانت مسؤولة عن حادثة وقعت عام 2022 حيث قام برنامج الدردشة الآلي الخاص بمكتب المساعدة بشرح بشكل غير صحيح سياسة أجرة الفجيعة الخاصة بشركة الطيران، مما دفع رجلاً إلى شراء رحلة طيران في اللحظة الأخيرة لحضور جنازة على أمل استرداد أمواله.

رفضت المحكمة دفاع شركة طيران كندا بأنها ليست مسؤولة عن “الكلمات المضللة” لبرنامج الدردشة الآلي، الذي حاولت القول بأنه “كيان قانوني منفصل” مسؤول عن أفعاله. وقالت المحكمة بشكل أساسي إن هذا هراء وأن شركة طيران كندا مسؤولة عن كل شيء على موقعها الإلكتروني، بما في ذلك برنامج الدردشة الآلي، وجعلتها تصدر المبلغ المسترد.

Gemini 1.5 Pro يذهل بنافذة سياق الرمز المميز التي تبلغ مليونًا

تمكن بعض المستخدمين من الوصول إلى إصدار مبكر من Gemini 1.5 Pro والذي يمكنه معالجة معلومات تصل إلى مليون رمز، وهي أطول نافذة سياقية حتى الآن. على سبيل السياق، عندما خرج كلود في مايو من العام الماضي بنافذة سياق رمزية تبلغ 100000 رمز، اندهش الجميع من أنه يمكنك أخيرًا إدخال رواية قصيرة. يمكن لـ Gemini 1.5 Pro الآن التعامل مع 700000 كلمة أو 11 ساعة من الصوت أو ساعة واحدة من الفيديو.

كان أستاذ الذكاء الاصطناعي إيثان موليك يتلاعب بالنموذج وقد أعجب به.

“لقد أعطيتها لعبة تقمص أدوار متفوقة حقًا (كتاب القواعد المكون من 352 صفحة لمدة 60 عامًا في الفضاء) وطلبت منها لعب دور الشخصية. التعليمات متناثرة في العديد من الصفحات، وهي معقدة للغاية، ولكن يبدو أن الجوزاء يفهمها.

وفي اختبار آخر، قام بتغذية 1000 صفحة من أوراقه الأكاديمية وكتبه واستفسر عنها. كانت الردود بطيئة واستغرقت ما يصل إلى دقيقة واحدة، لكنها “كانت قادرة على استخلاص اقتباسات مباشرة والعثور على موضوعات عبرها جميعًا مع وجود أخطاء بسيطة جدًا”.

لكنها رفضت الإجابة على أسئلة حول كتابه بحجة حقوق الطبع والنشر.

جميع أخبار القاتل بدون حشو AI

— تحدث فيتاليك بوتيرين، المؤسس المشارك لـ Ethereum، عن استخدام الذكاء الاصطناعي للتحقق من التعليمات البرمجية واكتشاف الأخطاء. ومع ذلك، فقد وجد بحث جديد من Salus Security هذا الأسبوع أن قدرات اكتشاف الثغرات الأمنية في GPT-4 ضعيفة وأنها تكافح لتحقيق دقة أعلى من 33%.

– ارتفعت رموز العملات الرقمية المدعومة بالذكاء الاصطناعي في الأسبوع الماضي، بقيادة مشروع Worldcoin التابع لسام ألتمان، والذي ارتفع بنسبة 150٪، حيث ربط الكثيرون الارتفاع في الأسعار بالإثارة بشأن Sora. وارتفعت أسهم Singularity.net بنسبة 82%، وFetchAI بنسبة 57%، وThe Graph (42%)، وRender (32%)، وOcean Protocol (49%).

– ورد أن Reddit وقعت صفقة بقيمة 60 مليون دولار للسماح لشركة AI بتدريب نماذجها على محتوى النظام الأساسي. من المحتمل أن يكون الاكتتاب العام الأولي لـ Reddit بقيمة 5 مليارات دولار المتوقع الشهر المقبل قد لعب دورًا في القرار.

— كان قاضي المحكمة العليا في إقليم العاصمة الأسترالية، ديفيد موسوب، أقل إعجابًا عندما قدم شقيق اللص مرجعًا للشخصية تمت كتابته بوضوح بواسطة ChatGPT. وقال القاضي إنه لم يضع “وزنًا كبيرًا” على المرجع نتيجة لذلك.

– وجدت دراسة استقصائية جديدة أجرتها شركة Veritas على 11500 عامل في جميع أنحاء العالم أن حوالي 45% من المشاركين قالوا إن الذكاء الاصطناعي يجعلهم أكثر إنتاجية في كتابة رسائل البريد الإلكتروني، بينما قال عدد مماثل (44%) إن الأدوات توفر معلومات غير دقيقة أو غير صحيحة أو غير مفيدة.

– تم رفض OpenAI في محاولتها الثانية لتسجيل مصطلح “GPT” كعلامة تجارية من قبل مكتب براءات الاختراع والعلامات التجارية الأمريكي. وقال المكتب إن كلمة GPT، والتي تعني “المحول التوليدي المُدرب مسبقًا”، كانت “مجرد وصفية”.

— انسَ Grok، وتعرّف على Groq، الذي أصبح ضجة كبيرة هذا الأسبوع. يطلق عليه صانعوه اسم “محرك إجابات الذكاء الاصطناعي السريع للغاية” الذي يمكنه تقديم إجابات واقعية مع الاستشهادات في أقل من ثانية. قام الفريق بتطوير شريحة ASIC الخاصة به لإدارة هذا العمل الفذ، مما أدى إلى توليد 500 رمز في الثانية، أي أكثر بعشرات المرات من ChatGPT.

أندرو فنتون

أندرو فينتون، المقيم في ملبورن، هو صحفي ومحرر يغطي العملات المشفرة والبلوكتشين. لقد عمل كاتبًا ترفيهيًا وطنيًا في News Corp Australia، وفي SA Weekend كصحفي سينمائي، وفي The Melbourne Weekly.

اتبع المؤلف @أندروفنتون