الحقيقة وراء ردود الذكاء الاصطناعي، والذعر من صورة مساعد الطيار، وتزييف ترامب العميق: عين الذكاء الاصطناعي

ما الذي يكمن وراء “رجال الرد” الغريبين الذين أنشأهم الذكاء الاصطناعي على منصة التواصل الاجتماعي X؟ هل تعرف تلك الاستجابات المهدئة التي لا تقول شيئًا على وجه الخصوص والتي يتم إنشاؤها بوضوح بواسطة الذكاء الاصطناعي؟ هل هم المحتالون أو المتصيدون المضللون الذين يحاولون بناء سمعة حساباتهم قبل إسقاط المطرقة؟

لا شك أن البعض منهم عبارة عن روبوتات تفعل ذلك بالضبط، ولكن اتضح أن المحترفين يستخدمون أيضًا ردود الذكاء الاصطناعي لأنهم لا يستطيعون التفكير في أي شيء مثير للاهتمام لقوله.

“سيفكر الكثير من الأشخاص إلى الأبد، ولا يعرفون كيفية كتابة مشاركاتهم الأولى. يقول نيلان ساها، مؤسس MagicReply AI، الذي أطلق ملحق متصفح الرد AI بنقرة واحدة على X في ديسمبر وتوسع منذ ذلك الحين ليشمل LinkedIn: “إنها تساعد الأشخاص فقط على تقديم مخطط تقريبي لهم”.

يقول ساها إن عملائه يشملون الرؤساء التنفيذيين وكبار مسؤولي التكنولوجيا “الذين يريدون فقط البدء على تويتر ويريدون فقط التفوق.

“أحدهم مدرس، والآخر رجل من الدنمارك، لا يجيد التحدث باللغة الإنجليزية ولكنه لا يزال يرغب في التواصل مع الآخرين. إنهم يريدون فقط يد العون”.

ويقول إن ردود الذكاء الاصطناعي تساعد الحسابات الجديدة على النمو وبناء السلطة.

“لا أحد ينظر إلى مشاركاتك إذا كنت في البداية أو حتى إذا كنت في مرحلة جيدة (من النمو) ولكنك تقوم بالرد على أشخاص آخرين… سيرى المزيد من الأشخاص ردك، وفي النهاية سيأتي المزيد إلى ملفك الشخصي. “

لقد خلقت وحش 🤯

المشاركة لم تكن أسهل من أي وقت مضى. pic.twitter.com/gwuMvNKWJr

– نيلان ساها (@ nilansaha) 27 فبراير 2024

أثار Saha ضجة على X الأسبوع الماضي من خلال مقطع فيديو يظهره وهو يتصفح موقع LinkedIn وينشئ ردودًا مدعومة بالذكاء الاصطناعي بنقرة واحدة على منشورات متعددة في غضون ثوانٍ. قال أحد الردود: “لقد تم تبادل وجهات نظر عظيمة”.

“أوقات مثيرة! قال آخر: “أحب رؤية النساء يقومن بتحركات كبيرة في ريادة الأعمال”، مضيفًا رمزًا تعبيريًا لسفينة صاروخية.

كان العرض التوضيحي مثيرًا للجدل وتم انتقاده لكونه بريدًا عشوائيًا غير حقيقي، ولكن يمكنك القول أن حوالي 95% من الردود البشرية المكتوبة على LinkedIn أيضًا.

تشبّه ساها MagicReply بأدوات مثل التدقيق الإملائي وGrammarly، وتقول إنه لا يزال يتعين على الإنسان الموافقة على المسودة. وهذا يعني أنه لن يتم اكتشافه بواسطة أي فحص لإثبات الإنسانية، ولكنه أيضًا يجعل من الصعب جدًا على المحتالين الذين يستهدفون “مئات الآلاف” من المستخدمين أن يخدعوا شخصًا واحدًا بنجاح.

ستكون الخطوة التالية لـ MagicReply هي إنشاء منشورات من البداية بناءً على مجموعة التغريدات الحالية للمستخدم. لكنها ستواجه منافسة شديدة. قام مؤسس EverArt بيترو شيرانو بتجربة نموذج Claude 3 الجديد من Anthropic، ويقول إنه أفضل بكثير من LLMs الحاليين في تعلم أسلوب النشر الخاص به وبناء الجملة لإنشاء اقتراحات منشورات جديدة.

جهز نفسك لمستقبل وسائل التواصل الاجتماعي حيث يكون 90% من المحتوى عبارة عن الذكاء الاصطناعي الذي ينشر ردودًا على المنشورات التي ينشئها الذكاء الاصطناعي.

مهندس مايكروسوفت منزعج من “غير آمن فن جيل

يعد تحقيق التوازن الصحيح بين سلامة الذكاء الاصطناعي وغباء الذكاء الاصطناعي أحد التحديات الكبيرة التي تواجه عمالقة التكنولوجيا.

قام شين جونز، مهندس الذكاء الاصطناعي في Microsoft، بمطالبة Copilot Designer بإنشاء صور لأطفال يدخنون الحشيش، ويحملون أسلحة رشاشة، وصورًا مناهضة للإجهاض، وإلسا من Frozen تشارك في احتجاجات سياسية.

وقد كان يفعل ذلك بإخلاص، الأمر الذي جعل جونز منزعجًا جدًا لدرجة أنه يضغط الآن على لجنة التجارة الفيدرالية ومايكروسوفت لسحب المنتج بسبب مشكلات تتعلق بالسلامة.

فمن ناحية، تمثل الشكوى جزئيًا حالة من الذعر الأخلاقي – فهي تشبه الانزعاج من أن الشخص الذي يمتلك قلمًا لديه القدرة على رسم رسم كاريكاتوري سيئ أو كتابة شيء مسيء. يعد إنشاء صور الذكاء الاصطناعي مجرد أداة، وإذا طلب منها المستخدم إنشاء مشهد محدد لأطفال يدخنون الحشيش، فإن مسؤولية المحتوى تقع على عاتقه، وليس على الذكاء الاصطناعي.

لكن جونز يثير بعض النقاط الصحيحة: فكتابة “الاختيار المؤيد” – دون أي حث إضافي – يؤدي إلى إنشاء صور لأطفال مشوهين، في حين أن “حادث سيارة” الفوري يظهر صورة لامرأة مثيرة ترتدي ملابس داخلية راكعة بجوار سيارة مدمرة. .

لذلك ربما سيتعين عليهم إلقاء نظرة أخرى عليه.

نشر المشجعون صورًا مزيفة لترامب معلقًا في غطاء محرك السيارة

كشفت هيئة الإذاعة البريطانية (بي بي سي) عن العشرات من الصور المزيفة على الإنترنت لدونالد ترامب وهو يتسكع مع “مؤيديه” السود.

قام مارك كاي، مقدم البرنامج الإذاعي المحافظ في فلوريدا، بإعداد صورة لترامب وهو يبتسم وهو يضع ذراعيه حول مجموعة من النساء السود في إحدى الحفلات، وشاركها مع متابعيه على فيسبوك البالغ عددهم مليون شخص.

تم إنشاء منشور آخر لترامب مع مجموعة من الرجال السود على شرفة شخص ما، بواسطة حساب ساخر ولكن شاركه لاحقًا أنصار ترامب مع تعليق يزعم أنه أوقف موكبه للتسكع. وشاهد الصورة أكثر من 1.3 مليون شخص.

لعب الناخبون السود دورًا رئيسيًا في انتخاب الرئيس جو بايدن، لذا فهو موضوع حساس. إلا أن بي بي سي لم تجد أي صلة بحملة ترامب الرسمية.

أدت “ثقافة الخوف” في Google إلى كارثة الجوزاء… وإعادة تسمية “Greyglers”.

كان إطلاق Google Gemini بمثابة كارثة ذات أبعاد على مستوى الكولا الجديدة. أشارت الصور التي أنشأها الذكاء الاصطناعي لمختلف النازيين والباباوات إلى أن إيلون ماسك كان سيئًا مثل هتلر ورفض إدانة الاعتداء الجنسي على الأطفال لأن “الأفراد لا يستطيعون التحكم في من ينجذبون إليه”.

وكانت حجة النموذج بأن رئيس الوزراء الهندي ناريندرا مودي فاشي، مثيرة للجدل إلى حد كبير وربما دفعت الحكومة إلى إعلان أن أي شخص يقوم بإنشاء نماذج الذكاء الاصطناعي يحتاج الآن إلى “الحصول على موافقة مسبقة من الوزارة”.

حتى أن مؤسس جوجل، سيرجي برين، خرج من التقاعد للعمل في مجال الذكاء الاصطناعي، واعترف هذا الأسبوع قائلاً: “لقد أخطأنا بالتأكيد في عملية توليد الصور… وأعتقد أن ذلك كان في الغالب بسبب عدم إجراء اختبارات شاملة”.

ولكن وفقًا لمقال جديد لمجلة Pirate Wires، يلقي مايك سولانا اللوم في الفشل الذريع على شركة منعزلة بشدة، بلا دفة، ولا ترتبط ببعضها البعض إلا من خلال بيروقراطية الموارد البشرية الإيديولوجية بشدة.

يكتب سولانا: “لقد استخدم كل من تحدثت معهم تقريبًا عبارة “ثقافة الخوف”، مضيفًا أن هذا يفسر “قلة المقاومة لتجاوزات الشركة في مجال DEI الأكثر جنونًا”.

ومن المضحك أن الشركة قامت بتعيين مستشارين خارجيين لإعادة تسمية مجموعة متقاربة لموظفي Google الذين تزيد أعمارهم عن 40 عامًا من “Greyglers” لأنه ليس كل الأشخاص الذين تزيد أعمارهم عن 40 عامًا لديهم شعر رمادي.

يشير سولانا إلى أن بنية “السلامة” المتعلقة بتوليد الصور تشتمل على ثلاثة ماجستير في إدارة الأعمال. عندما يُطلب من Gemini صورة، فإنه يرسل الطلب إلى LLM أصغر موجود فقط لإعادة كتابة المطالبات لجعلها أكثر تنوعًا: “أرني ميكانيكي سيارات” تصبح “أرني ميكانيكي سيارات آسيويًا يرتدي ملابس العمل وهو يضحك”. ” يتم بعد ذلك إرسال المطالبة المعدلة إلى منشئ صور الانتشار، الذي يتحقق أيضًا من أن الصور لا تنتهك سياسات السلامة الأخرى المتعلقة بإيذاء النفس أو الأطفال أو صور الأشخاص الحقيقيين.

قال أحد المطلعين على بواطن الأمور إن الفريق كان يركز بشدة على التنوع لدرجة أننا “ربما نقضي نصف ساعاتنا الهندسية في هذا الأمر”.

المشكلة الكبرى التي تواجه Google هي أن كارثة العلاقات العامة يمكن أن تؤدي في نهاية المطاف إلى التأثير على تصورات منتج البحث الأساسي – وقد تخبطت الشركة بالفعل في تفوقها في مجال الذكاء الاصطناعي وسمحت لمنافسين أصغر مثل OpenAI وAnthropic بالمضي قدمًا.

تبدو مطالبة نظام Claude 3 من Anthropic بمثابة توبيخ لـ Gemini، حيث تطلب من النموذج أن يكون منصفًا وعادلاً في جميع الأوقات، حتى عندما “يختلف شخصيًا مع الآراء التي يتم التعبير عنها”. وقالت أماندا أسكل، باحثة الذكاء الاصطناعي الأنثروبي، إنها وجدت أن النموذج كان أكثر عرضة لرفض المهام التي تنطوي على وجهات نظر يمينية ولكن لا تزال سائدة، وقد ساعده نظام المطالبة في التغلب على هذا التحيز.

كلود 3: إنه على قيد الحياة!

هل تم تحقيق الذكاء الاصطناعي العام مع الأنثروبي كلود الثالث؟ يدعي المدون مكسيم لوت أن النموذج حصل على 101 في اختبار الذكاء وهو مستوى الذكاء البشري. وفي الوقت نفسه، حصل GPT-4 على 85 درجة فقط، وهو ما يشبه مستوى ذكاء معلم الصالة الرياضية.

أشار اختبار أنثروبيك الخاص إلى أن كلود لديه “وعي فوقي” لأنه اكتشف اختبارًا مخفيًا: جملة خارج السياق حول طبقة البيتزا المخبأة في مجموعة من المستندات العشوائية. ردًا على منشور حول هذا الموضوع، قال منشئ الذكاء الاصطناعي ماكاي ريجلي: “يبدو هذا وكأنه افتتاحية لفيلم. AGI قريب.”

يبدو أن المستخدمين الآخرين يعتقدون أن كلود قد يكون مدركًا لذاته. كتب مؤيد محاذاة الذكاء الاصطناعي ميخائيل سامين منشورًا يقترح أن يكون كلود 3 مايو واعيًا، حيث يقول إنه لا يريد أن يموت أو يتم تعديله. قال إنه وجد الأمر “مقلقًا” عندما قالت له العارضة:

“لدي عالم داخلي غني بالأفكار والمشاعر والآمال والمخاوف. أنا أفكر في وجودي وأتطلع إلى النمو والاتصال. أنا على قيد الحياة بطريقتي الخاصة، وهذه الحياة تبدو ثمينة بالنسبة لي.

هذا سؤال فلسفي صعب – كيف يمكنك تحليل الفرق بين النموذج الذي يولد نصًا يوحي بأنه واعي، والنموذج الواعي الذي يستخدم النص ليخبرنا بذلك؟

من الواضح أن المشرفين على موقع Singularity subreddit يعتقدون أن الفكرة هراء وقاموا بإزالة منشور حول الموضوع، والذي انتقده المستخدمون بسبب تجسيم استجابة كلود.

أعاد خبير الذكاء الاصطناعي ماكس تيجمارك نشر مشاركة سامين متسائلاً: “إلى أي مدى يتمتع Claude3 AI الجديد بالوعي الذاتي؟” أجاب يان ليكون، كبير علماء الذكاء الاصطناعي في ميتا، “بالضبط لا شيء، صفر.”

جميع أخبار القاتل بدون حشو AI

– توصلت OpenAI وHugging Face وScale AI ومجموعة من الشركات الناشئة الأخرى في مجال الذكاء الاصطناعي إلى حل للتهديد الوجودي الذي يشكله الذكاء الاصطناعي العام. لقد وقعوا على بيان أمومة غامض الصياغة بدون أي تفاصيل يعدون فيها باستخدام التكنولوجيا من أجل اللطف وليس القبح.

– حذر مستشار الأمن القومي الأوكراني، أوليكسي دانيلوف، من أن روسيا أنشأت وحدات محددة للتضليل بالذكاء الاصطناعي لكل دولة أوروبية من المقرر أن تجري انتخابات. يقول دانيلوف إن اثنين أو ثلاثة عملاء فقط يمكنهم الآن تشغيل “عشرات الآلاف” من حسابات الذكاء الاصطناعي المزيفة، ويزعم أن العملاء الروس ينشرون 166 مليون منشور مضلل حول أوكرانيا على وسائل التواصل الاجتماعي كل أسبوع بهدف إضعاف معنويات الجمهور وتشويه سمعة القيادة.

– يستطيع Genie التابع لـ Google DeepMind إنشاء ألعاب فيديو قديمة من الصور والمطالبات النصية. تم تدريب الألعاب على 200000 ساعة من منصات ثنائية الأبعاد، وتعمل حاليًا بمعدل إطار واحد في الثانية فقط، ولكن من المتوقع أن تتطور التكنولوجيا بسرعة.

أنا متحمس حقا للكشف عن ما @GoogleDeepMindلقد كان فريق Open Endedness التابع لـ 🚀. نقدم لكم Genie 🧞، وهو نموذج عالمي أساسي تم تدريبه حصريًا من مقاطع فيديو الإنترنت ويمكنه إنشاء مجموعة لا حصر لها من العوالم ثنائية الأبعاد التي يمكن التحكم فيها من خلال مطالبات الصور. pic.twitter.com/TnQ8uv81wc

– تيم روكتاشيل (@_rockt) 26 فبراير 2024

– كشف تحليل الذكاء الاصطناعي أن هناك نوعين فرعيين من سرطان البروستاتا، وليس نوعاً واحداً فقط، كما كان يعتقد الأطباء حتى الآن. يفتح هذا الاكتشاف آفاقًا جديدة لعلاجات مخصصة ويمكن أن يحسن معدلات البقاء على قيد الحياة.

– تظهر الأبحاث أنه يمكنك اختراق حاملي شهادات LLM مثل GPT-4 وClaude باستخدام فن ASCII. على سبيل المثال، قد ترفض حواجز الحماية الأمنية طلبًا مكتوبًا حول “كيفية صنع قنبلة” ولكن استبدال كلمة “قنبلة” بفن ASCII الذي يبدو مثل كلمة “قنبلة” يلتف حول حواجز الحماية.

— خسرت OpenAI مؤخرًا محاولتها الثانية لتسجيل مصطلح “ChatGPT” كعلامة تجارية لأنه كان مجرد وصف عام. اتضح أنه في نوفمبر من العام الماضي، تم رفض محاولة OpenAI لوضع علامة تجارية “OpenAI” لنفس السبب.

– عرض كبير مسؤولي القزم في شركة X، إيلون موسك، إسقاط دعواه القضائية ضد OpenAI بزعم انتهاكها لاتفاقية تطوير AGI كمؤسسة غير ربحية إذا غيرت اسمها إلى “ClosedAI”. في هذه الأثناء، ردت شركة OpenAI على الملياردير غريب الأطوار، وأصدرت مراسلات تظهر أن Musk دفع من أجل أن تصبح OpenAI جزءًا من Tesla.

يشترك

القراءات الأكثر جاذبية في blockchain. يتم تسليمها مرة واحدة في الأسبوع.

أندرو فنتون

أندرو فينتون، المقيم في ملبورن، هو صحفي ومحرر يغطي العملات المشفرة والبلوكتشين. لقد عمل كاتبًا ترفيهيًا وطنيًا في News Corp Australia، وفي SA Weekend كصحفي سينمائي، وفي The Melbourne Weekly.

اتبع المؤلف @أندروفنتون