اختر منطقتك 
منذ إطلاق ChatGPT في أواخر عام 2022 وجعل الذكاء الاصطناعي (AI) سائدًا، كان الجميع يحاولون ركوب موجة الذكاء الاصطناعي – الشركات التقنية وغير التكنولوجية، والشركات القائمة والشركات الناشئة – لإغراق السوق بجميع أنواع مساعدي الذكاء الاصطناعي ومحاولة اجذب انتباهنا من خلال التطبيق أو الترقية “المبهرجة” التالية.
مع الوعد الذي قطعه قادة التكنولوجيا بأن الذكاء الاصطناعي سيفعل كل شيء وسيكون كل شيء بالنسبة لنا، أصبح مساعدو الذكاء الاصطناعي مستشارينا في مجال الأعمال والزواج، ومستشارينا، ومعالجينا، ورفاقنا، ومقربينا – يستمعون إلينا عندما نشارك أعمالنا أو معلوماتنا الشخصية وغيرها من الأسرار الخاصة والأخبار. أفكار.
يدرك مقدمو هذه الخدمات المدعومة بالذكاء الاصطناعي حساسية هذه المناقشات ويؤكدون لنا أنهم يتخذون إجراءات فعالة لحماية معلوماتنا من التعرض للانكشاف. هل نحن حقا محميون؟
مساعدو الذكاء الاصطناعي – صديق أم عدو؟
وأظهرت الأبحاث التي نشرها باحثون في جامعة بير غوريون في شهر مارس/آذار أن أسرارنا يمكن كشفها. ابتكر الباحثون هجومًا يفك رموز استجابات مساعد الذكاء الاصطناعي بدقة مذهلة، على الرغم من تشفيرها. وتستغل هذه التقنية ثغرة أمنية في تصميم النظام لجميع المنصات الرئيسية، بما في ذلك Copilot من Microsoft وChatGPT-4 من OpenAI، باستثناء Gemini من Google.
ذات صلة: تداول عملة البيتكوين إلى النصف: 3 متداولين يشاركون أفكارهم
علاوة على ذلك، أظهر الباحثون أنه بمجرد أن يبني المهاجم أداة لفك محادثة – على سبيل المثال، باستخدام ChatGPT – يمكن لهذه الأداة أن تعمل على خدمات أخرى أيضًا، وبالتالي يمكن مشاركتها (مثل أدوات القرصنة الأخرى) واستخدامها في جميع المجالات مع لا يوجد جهد إضافي.
وهذا ليس البحث الأول الذي يشير إلى عيوب أمنية في تصميم وتطوير مساعدي الذكاء الاصطناعي. وكانت دراسات أخرى تطفو على السطح لفترة طويلة. في أواخر عام 2023، وصف باحثون من عدة جامعات أمريكية وGoogle DeepMind كيف يمكنهم جعل ChatGPT ينشر أجزاء محفوظة من بيانات التدريب الخاصة به بمجرد حثه على تكرار كلمات معينة.
تمكن الباحثون من استخراج فقرات حرفية من الكتب والقصائد وعناوين URL ومعرف المستخدم الفريد وعناوين Bitcoin (BTC) وأكواد البرمجة والمزيد من ChatGPT.
يمكن للخصوم استخدام المطالبات أو المدخلات المعدة عمدًا لخداع الروبوتات لإنشاء بيانات التدريب، والتي قد تتضمن معلومات شخصية ومهنية حساسة.
تصبح المشاكل الأمنية أكثر حدة مع النماذج مفتوحة المصدر. أظهرت دراسة حديثة كيف يمكن للمهاجم اختراق خدمة تحويل Hugging Face واختطاف أي نموذج يتم إرساله من خلال خدمة التحويل. إن الآثار المترتبة على مثل هذا الهجوم كبيرة. يمكن للخصم زرع نموذجه الخاص بدلاً من ذلك، أو دفع النماذج الضارة إلى المستودعات أو الوصول إلى مجموعات بيانات المستودعات الخاصة.
لوضع الأمور في نصابها الصحيح. حدد الباحثون مؤسسات مثل Microsoft وGoogle، التي لديها مجتمعة 905 نماذج مستضافة على Hugging Face والتي تلقت تغييرات من خلال خدمة التحويل وربما كانت معرضة لخطر هجوم الخصم وتم اختراقها.
يمكن أن تتفاقم الأمور
قد تكون قدرات الذكاء الاصطناعي الجديدة مغرية، ولكن كلما زادت القوة التي يمنحها مساعدو الذكاء الاصطناعي، أصبحوا أكثر عرضة للهجوم.
وصف بيل جيتس، الذي كتب في إحدى مدوناته العام الماضي، كيف يمكن لمساعد الذكاء الاصطناعي الشامل (الذي أسماه “الوكيل”) الوصول إلى جميع أجهزتنا – الشخصية والمهنية – لدمج وتحليل المعلومات المجمعة لتكون بمثابة “الشخصية” الخاصة بنا. مساعد.”
كما كتب جيتس في المدونة:
سيكون الوكيل قادرًا على مساعدتك في جميع أنشطتك إذا كنت تريد ذلك. مع الإذن بمتابعة تفاعلاتك عبر الإنترنت ومواقع العالم الحقيقي، فإنه سيطور فهمًا قويًا للأشخاص والأماكن والأنشطة التي تشارك فيها. وسيحصل على علاقاتك الشخصية وعلاقات العمل وهواياتك وتفضيلاتك وجدولك الزمني. ستختار كيف ومتى يتدخل للمساعدة في شيء ما أو يطلب منك اتخاذ قرار.
هذا ليس خيالًا علميًا، وقد يحدث في وقت أقرب مما نعتقد. أطلق Project 01، وهو نظام بيئي مفتوح المصدر لأجهزة الذكاء الاصطناعي، مؤخرًا مساعدًا للذكاء الاصطناعي يسمى 01 Light. “إن 01 Light عبارة عن واجهة صوتية محمولة تتحكم في جهاز الكمبيوتر المنزلي الخاص بك،” كتبت الشركة على X. يمكنها رؤية شاشتك، واستخدام تطبيقاتك، وتعلم مهارات جديدة.
قد يكون من المثير جدًا أن يكون لديك مثل هذا المساعد الشخصي الذي يعمل بتقنية الذكاء الاصطناعي. ومع ذلك، إذا لم تتم معالجة المشكلات الأمنية على الفور، وكان المطورون يتأكدون بدقة من أن النظام والتعليمات البرمجية “نظيفة” من جميع نقاط الضعف المحتملة، فهناك احتمال أنه إذا تعرض هذا العميل لهجوم سلبي، فسيتم اختطاف حياتك بأكملها – بما في ذلك معلومات عن أي شخص أو منظمة ذات صلة بك.
هل يمكننا حماية أنفسنا؟
وفي أواخر مارس/آذار، فرض مجلس النواب الأمريكي حظراً صارماً على استخدام موظفي الكونجرس لبرنامج مساعد الطيار من مايكروسوفت.
“لقد اعتبر مكتب الأمن السيبراني أن تطبيق Microsoft Copilot يشكل خطراً على المستخدمين بسبب التهديد بتسريب بيانات House إلى خدمات سحابية غير معتمدة من House،” قالت كبيرة المسؤولين الإداريين في مجلس النواب كاثرين شبيندور.
في أوائل إبريل/نيسان، نشر مجلس مراجعة السلامة السيبرانية (CSRB) تقريراً يلوم مايكروسوفت على “سلسلة من الإخفاقات الأمنية” التي مكنت الجهات الفاعلة في مجال التهديد الصيني من الوصول إلى رسائل البريد الإلكتروني الخاصة بمسؤولين حكوميين أمريكيين في صيف عام 2023، وهو ما كان من الممكن منعه وما كان ينبغي أن يحدث أبداً.
ذات صلة: تدين الأدلة الجنائية السيئة لسلسلة الكتل مستخدم خلاط البيتكوين – كمشغل له
وكما جاء في التقرير: “ليس لدى مايكروسوفت ثقافة أمنية كافية وتحتاج إلى إصلاح شامل”. من المرجح أن يتضمن هذا مشكلات أمنية مع Copilot.
وهذا ليس الحظر الأول على مساعدي الذكاء الاصطناعي. قامت شركات التكنولوجيا مثل Apple وAmazon وSamsung وSpotify إلى جانب المؤسسات المالية بما في ذلك JPMorgan وCiti وGoldman Sachs وغيرها بحظر استخدام الروبوتات لموظفيها.
وتعهدت شركات التكنولوجيا الكبرى، بما في ذلك OpenAI وMicrosoft، في العام الماضي بالالتزام بالذكاء الاصطناعي المسؤول. ومنذ ذلك الحين، لم يتم اتخاذ أي إجراءات جوهرية.
التعهد لا يكفي. وينبغي للمنظمين وصانعي السياسات أن يطالبوا باتخاذ إجراءات. وفي هذه الأثناء، يجب علينا الامتناع عن مشاركة أي معلومات شخصية أو تجارية حساسة.
وربما لو كنا – بشكل جماعي— التوقف عن استخدام هذه الروبوتات حتى يتم اتخاذ إجراءات جوهرية لحمايتنا، فقد تكون لدينا فرصة “لسماع صوتنا” وإجبار الشركات والمطورين على تنفيذ التدابير الأمنية اللازمة.
د.ميراف عزير هو مؤلف ضيف في Cointelegraph ويقوم بتطوير وتدريس دورات التقنيات الناشئة في جامعة ويك فورست وجامعة كورنيل. وكانت سابقًا أستاذة للتكنولوجيا المالية في كلية روتجرز للأعمال، حيث قامت بتدريس دورات حول Web3 والتقنيات الناشئة ذات الصلة. وهي عضو في المجلس الاستشاري الأكاديمي في الرابطة الدولية لتطبيقات Blockchain الموثوقة (INATBA) وتعمل في المجلس الاستشاري لمؤشرات EQM – لجنة مؤشر Blockchain. وهي مؤسِّسة Emerging Technologies Mastery، وهو متجر استشاري شامل لمواقع Web3 والذكاء الاصطناعي، وهي حاصلة على درجة الدكتوراه من كلية ستيرن للأعمال في جامعة نيويورك.
هذه المقالة لأغراض المعلومات العامة وليس المقصود منها ولا ينبغي أن تؤخذ على أنها نصيحة قانونية أو استثمارية. الآراء والأفكار والآراء الواردة هنا هي آراء المؤلف وحده ولا تعكس بالضرورة أو تمثل وجهات نظر وآراء Cointelegraph.
