OpenAI تحبط عملية واسعة لاستنساخ قدرات ChatGPT
أعلنت شركة OpenAI أنها تمكنت من إحباط عملية واسعة النطاق استهدفت استنساخ قدرات النماذج التي تشغّل خدمة ChatGPT، بعد رصد نشاط منسق شارك فيه أكثر من 15 ألف مستخدم.
وأوضحت الشركة أن العملية هدفت إلى جمع كميات كبيرة من مخرجات نماذجها وتحليلها، تمهيدا لاستخدامها في ما يعرف بتقنية «التقطير» (Distillation)، وهي تقنية تُستخدم في تطوير نماذج ذكاء اصطناعي أصغر حجما من خلال الاستفادة من إجابات نموذج أكبر وأكثر تقدما.
وتُستخدم تقنية التقطير بشكل مشروع في قطاع الذكاء الاصطناعي بهدف تحسين كفاءة النماذج وتقليص حجمها وخفض تكاليف تشغيلها. غير أن استخدامها بطريقة عدائية يمكن أن يتيح محاكاة قدرات نماذج متقدمة من دون تحمل الكلفة المرتفعة المرتبطة بتطويرها وتدريبها.
نشاط تصاعدي منذ جويلية
وبحسب OpenAI، بدأت العملية في مطلع جويلية بوتيرة محدودة، قبل أن تتوسع تدريجيا خلال الشهر. وتمكنت الشركة في 28 جويلية من إحباط النشاط، بعد أن رصدت أكثر من 15 ألف مستخدم بدوا مرتبطين به.
وقالت OpenAI إن شركة Moonshot AI، المطورة لنظام الذكاء الاصطناعي «Kimi»، تقف وراء جزء على الأقل من النشاط، لكنها أكدت أنها لا تملك معلومات تثبت أن الشركة كانت وراء العملية بأكملها.
ولم تصدر Moonshot AI ردا فوريا على طلب للتعليق، وفق ما نقلته صحيفة «إندبندنت».
مخاوف تتجاوز المنافسة التجارية
وترى OpenAI أن عمليات التقطير العدائي لا تمثل خطرا تجاريا فقط، بل قد تطرح أيضا مخاطر مرتبطة بالسلامة والأمن القومي، باعتبار أنها قد تسمح بنسخ قدرات نماذج متقدمة من دون تطبيق ضوابط الأمان والحماية المعتمدة في النماذج الأصلية.
وأفادت الشركة بأنها أوقفت النشاط عبر إغلاق الحسابات المشبوهة ومعالجة ثغرات برمجية استغلها المشاركون، من بينها ثغرات كانت تتيح لبعض المستخدمين الاطلاع على عمليات الاستدلال التي تعتمد عليها أنظمتها في توليد الإجابات.
كما قالت إنها تعاونت مع مزودي خدمات خارجيين لإغلاق حسابات مرتبطة بالنشاط، وشاركت «نتائج ذات صلة» مع شركات وحكومات أخرى للمساعدة في رصد محاولات مماثلة.
وأكدت OpenAI أنها تتوقع أن تصبح محاولات التقطير العدائي أكثر تعقيدا مع تطور نماذج الذكاء الاصطناعي، مشيرة إلى أنها ستواصل تطوير أنظمة الحماية وأدوات رصد هذه الأنشطة، إلى جانب تشجيع شركات الذكاء الاصطناعي والجهات الحكومية على تبادل المعلومات المتعلقة بهذه التهديدات.
المصدر: إندبندنت
وأوضحت الشركة أن العملية هدفت إلى جمع كميات كبيرة من مخرجات نماذجها وتحليلها، تمهيدا لاستخدامها في ما يعرف بتقنية «التقطير» (Distillation)، وهي تقنية تُستخدم في تطوير نماذج ذكاء اصطناعي أصغر حجما من خلال الاستفادة من إجابات نموذج أكبر وأكثر تقدما.
وتُستخدم تقنية التقطير بشكل مشروع في قطاع الذكاء الاصطناعي بهدف تحسين كفاءة النماذج وتقليص حجمها وخفض تكاليف تشغيلها. غير أن استخدامها بطريقة عدائية يمكن أن يتيح محاكاة قدرات نماذج متقدمة من دون تحمل الكلفة المرتفعة المرتبطة بتطويرها وتدريبها.
نشاط تصاعدي منذ جويلية
وبحسب OpenAI، بدأت العملية في مطلع جويلية بوتيرة محدودة، قبل أن تتوسع تدريجيا خلال الشهر. وتمكنت الشركة في 28 جويلية من إحباط النشاط، بعد أن رصدت أكثر من 15 ألف مستخدم بدوا مرتبطين به.وقالت OpenAI إن شركة Moonshot AI، المطورة لنظام الذكاء الاصطناعي «Kimi»، تقف وراء جزء على الأقل من النشاط، لكنها أكدت أنها لا تملك معلومات تثبت أن الشركة كانت وراء العملية بأكملها.
ولم تصدر Moonshot AI ردا فوريا على طلب للتعليق، وفق ما نقلته صحيفة «إندبندنت».
مخاوف تتجاوز المنافسة التجارية
وترى OpenAI أن عمليات التقطير العدائي لا تمثل خطرا تجاريا فقط، بل قد تطرح أيضا مخاطر مرتبطة بالسلامة والأمن القومي، باعتبار أنها قد تسمح بنسخ قدرات نماذج متقدمة من دون تطبيق ضوابط الأمان والحماية المعتمدة في النماذج الأصلية.وأفادت الشركة بأنها أوقفت النشاط عبر إغلاق الحسابات المشبوهة ومعالجة ثغرات برمجية استغلها المشاركون، من بينها ثغرات كانت تتيح لبعض المستخدمين الاطلاع على عمليات الاستدلال التي تعتمد عليها أنظمتها في توليد الإجابات.
كما قالت إنها تعاونت مع مزودي خدمات خارجيين لإغلاق حسابات مرتبطة بالنشاط، وشاركت «نتائج ذات صلة» مع شركات وحكومات أخرى للمساعدة في رصد محاولات مماثلة.
وأكدت OpenAI أنها تتوقع أن تصبح محاولات التقطير العدائي أكثر تعقيدا مع تطور نماذج الذكاء الاصطناعي، مشيرة إلى أنها ستواصل تطوير أنظمة الحماية وأدوات رصد هذه الأنشطة، إلى جانب تشجيع شركات الذكاء الاصطناعي والجهات الحكومية على تبادل المعلومات المتعلقة بهذه التهديدات.
المصدر: إندبندنت
29°
22°
Comments
0 de 0 commentaires pour l'article 337074