اختر منطقتك 
يجب أن يكون أمن العملاء الذين يعملون بالذكاء الاصطناعي مدمجًا في النظام بأكمله، وليس فقط حول النموذج نفسه، وذلك لمنع حالات الفشل والهجمات من الجهات الفاعلة السيئة بشكل أفضل، وفقًا لورقة بحثية جديدة.
زعمت الورقة المعدلة، التي صدرت في 20 مايو من قبل باحثين من جوجل، وGray Swan AI، وEmbraceTheRed، والعديد من الجامعات، أنه يجب التعامل مع أمن العملاء باعتباره مشكلة أنظمة، ويجب التعامل مع عملاء الذكاء الاصطناعي باعتبارهم مكونًا غير موثوق به.
وقال الباحثون: “من خلال هذه العدسة، فإن الجهود المبذولة لزيادة قوة النموذج، وهي وجهة النظر السائدة في المجتمع، ليست كافية في حد ذاتها. وبدلاً من ذلك، يجب علينا استكمال الجهود الحالية بتقنيات من مجال أمن الأنظمة”.
“ولتحقيق هذه الغاية، نقترح النظر إلى أمن الوكلاء كمثال لأمن الكمبيوتر. لقد تعامل هذا المجال منذ فترة طويلة مع المهاجمين الأقوياء وحفز عقودًا من البحث حول المبادئ والتقنيات التي تتعامل مع هؤلاء الخصوم.”
أصبح وكلاء الذكاء الاصطناعي يتمتعون بشعبية متزايدة بين مستخدمي العملات المشفرة. توقع بعض المديرين التنفيذيين للعملات المشفرة أن عملاء الذكاء الاصطناعي في الفضاء يمكن أن ينفجروا في السنوات القليلة المقبلة. توقع جيريمي ألاير، الرئيس التنفيذي لشركة Circle، في يناير أن مليارات من وكلاء الذكاء الاصطناعي سيعملون نيابة عن المستخدمين في غضون خمس سنوات.
يمكن للحماية الأمنية الأساسية أن توقف معظم الهجمات
وقال الباحثون إنه بعد دراسة مجموعة من دراسات حالة الهجوم، يمكن لـ “ثلاث آليات” أن “تقضي على جزء كبير من الهجمات”.
ويجادلون بأن عملاء الذكاء الاصطناعي يجب أن يميزوا بوضوح بين التعليمات والبيانات غير الموثوقة لتجنب قيام المهاجمين بخداع الوكيل عن طريق إخفاء التعليمات الضارة داخل البيانات. ويجب أن يتمتع وكيل الذكاء الاصطناعي أيضًا بالحد الأدنى من الأذونات اللازمة لأداء المهمة، بدلاً من الوصول الكامل، وفقًا للباحثين.
وقال الباحثون إن إعدادات الأمان القياسية تشمل أنظمة موثوقة وغير موثوقة، ويجب التعامل مع الذكاء الاصطناعي على أنه نظام غير موثوق به. مصدر: أمان الوكيل هو مشكلة في الأنظمة
وفي الوقت نفسه، يجب أن يتحكم النظام الأوسع في المكان الذي يُسمح فيه بنقل المعلومات الحساسة، وليس الوكيل، لضمان عدم إمكانية التلاعب بها لإرسال بيانات حساسة إلى وجهات غير آمنة.
وفي حالة حديثة، قال مساعد تداول العملات المشفرة المدعوم بالذكاء الاصطناعي، Bankr، إنه عطل المعاملات في 20 مايو بعد تحديد مهاجم تمكن من الوصول إلى 14 محفظة على الأقل. وتكهن خبراء الأمن بأن الروبوت قد تم استغلاله من قبل أحد المتسللين.
يتم استخدام وكلاء الذكاء الاصطناعي لبناء تطبيقات Web3، وإطلاق الرموز المميزة والتفاعل مع الخدمات والبروتوكولات بشكل مستقل، مع استكشاف بعض المنصات للذكاء الاصطناعي للتداول.
صرح آرون راتكليف، رئيس الإسناد في شركة استخبارات بلوكتشين ميركل ساينس، لكوينتيليغراف العام الماضي أنه من وجهة نظر أمنية، فإن منح وكيل الذكاء الاصطناعي إمكانية الوصول إلى المحفظة يضيف طبقة من الثقة إلى شيء مصمم ليكون غير موثوق به، ويمكن أن يكون آمنًا إذا تم بناء النظام بشكل صحيح.
متعلق ب: تطلق Exodus عملة مستقرة تركز على وكيل الذكاء الاصطناعي على Solana
“أريد دليلاً على أن الذكاء الاصطناعي يمكنه اكتشاف التقدم الأمامي، وتطبيق حدود الانزلاق، ورصد الرموز المميزة للاحتيال، ومراجعة العقود في الوقت الفعلي قبل إجراء التداول. وقال: “يجب أن يطالب أيضًا وضع الحماية، ويمنع الحقن، ويمنع وصول الرجل في الوسط”.
وفي الوقت نفسه، قال شون رين، المؤسس المشارك لمنصة blockchain الأصلية للذكاء الاصطناعي Sahara AI، إن بروتوكولات السياق النموذجية هي المعيار الذهبي للسلامة عند إعدادها بشكل صحيح، ولكن لا يزال يتعين على المستخدمين الانتباه إلى كل إجراء يقوم به وكيل الذكاء الاصطناعي.
وقال: “إنهم يعملون بشكل أساسي كحارس بوابة بين نموذج الذكاء الاصطناعي ومحفظتك. يمكن للوكيل فقط تنفيذ إجراءات محددة ومعتمدة – مثل التحقق من الأرصدة أو إعداد دفعة لك للتأكيد – بدلاً من نقل الأموال بحرية أو تغيير إعدادات المحفظة”.
مجلة: محتالو العملات المشفرة يواجهون الموت، وCGT الأسترالي يجعل المراكز الآسيوية جذابة
