اختراق «أوبن أيه آي» باستخدام ذكاء اصطناعي منافس.. هاكرز القبعات البيضاء يكشفون ثغرة بـ6500 دولار
تمكن باحثون في مجال الأمن السيبراني من الوصول إلى بيانات داخلية لشركة OpenAI، المطوّرة لـ«ChatGPT»، باستخدام نموذج الذكاء الاصطناعي Claude التابع لشركة Anthropic المنافسة، في تجربة كشفت عن مخاطر متزايدة مرتبطة باستخدام الذكاء الاصطناعي في الهجمات السيبرانية.
وبحسب المعطيات الواردة في التقرير، نجح باحثو الأمن السيبراني في شركة Hacktron AI في اختراق أنظمة OpenAI، مستفيدين من نموذج Claude لتنفيذ العملية، حيث استغلوا ثغرة في المنتدى الداخلي للمنصة مكّنتهم من التسلل إلى حساب أحد الموظفين.
ومن خلال الحساب المخترق، تمكن الباحثون من الوصول إلى الكود المصدري عبر منصة GitHub، قبل أن تقوم OpenAI بمعالجة الثغرة وإغلاقها، إلى جانب مكافأة الفريق بمبلغ 6500 دولار تقديراً لاكتشافها والإبلاغ عنها.
ووفق التقرير، اضطرت الشركة في إطار إجراءاتها الطارئة إلى تحويل نحو 25% من مبرمجيها مؤقتاً للعمل على مهام مرتبطة بالأمن السيبراني، في ظل المخاوف المتزايدة من قدرة وكلاء الذكاء الاصطناعي على تنفيذ عمليات اختراق أكثر تعقيداً.
وتسلط هذه الواقعة الضوء على تحول جديد في مجال الأمن السيبراني، إذ لم يعد الذكاء الاصطناعي مقتصراً على المساعدة في اكتشاف الثغرات، بل أصبح قادراً، عند استخدامه من قبل باحثين أو مهاجمين، على المساهمة في تنفيذ مراحل متعددة من الهجمات الإلكترونية.
وفي هذا السياق، حذر الخبير التقني جوشوا ساكس من أن انتشار وكلاء الذكاء الاصطناعي قد يجعل تنفيذ هجمات معقدة أكثر سهولة حتى بالنسبة إلى أشخاص يفتقرون إلى الخبرة التقنية الكبيرة.
ودفعت هذه المخاوف، وفق التقرير، OpenAI إلى إجراء تدقيق أمني شامل لأنظمتها، في وقت يتزايد فيه التنافس بين شركات الذكاء الاصطناعي وتتعاظم معه المخاطر المرتبطة بتوظيف هذه التقنيات في مجال الأمن السيبراني.
وبحسب المعطيات الواردة في التقرير، نجح باحثو الأمن السيبراني في شركة Hacktron AI في اختراق أنظمة OpenAI، مستفيدين من نموذج Claude لتنفيذ العملية، حيث استغلوا ثغرة في المنتدى الداخلي للمنصة مكّنتهم من التسلل إلى حساب أحد الموظفين.
ومن خلال الحساب المخترق، تمكن الباحثون من الوصول إلى الكود المصدري عبر منصة GitHub، قبل أن تقوم OpenAI بمعالجة الثغرة وإغلاقها، إلى جانب مكافأة الفريق بمبلغ 6500 دولار تقديراً لاكتشافها والإبلاغ عنها.
ووفق التقرير، اضطرت الشركة في إطار إجراءاتها الطارئة إلى تحويل نحو 25% من مبرمجيها مؤقتاً للعمل على مهام مرتبطة بالأمن السيبراني، في ظل المخاوف المتزايدة من قدرة وكلاء الذكاء الاصطناعي على تنفيذ عمليات اختراق أكثر تعقيداً.
وتسلط هذه الواقعة الضوء على تحول جديد في مجال الأمن السيبراني، إذ لم يعد الذكاء الاصطناعي مقتصراً على المساعدة في اكتشاف الثغرات، بل أصبح قادراً، عند استخدامه من قبل باحثين أو مهاجمين، على المساهمة في تنفيذ مراحل متعددة من الهجمات الإلكترونية.
وفي هذا السياق، حذر الخبير التقني جوشوا ساكس من أن انتشار وكلاء الذكاء الاصطناعي قد يجعل تنفيذ هجمات معقدة أكثر سهولة حتى بالنسبة إلى أشخاص يفتقرون إلى الخبرة التقنية الكبيرة.
ودفعت هذه المخاوف، وفق التقرير، OpenAI إلى إجراء تدقيق أمني شامل لأنظمتها، في وقت يتزايد فيه التنافس بين شركات الذكاء الاصطناعي وتتعاظم معه المخاطر المرتبطة بتوظيف هذه التقنيات في مجال الأمن السيبراني.
32°
22°
Comments
0 de 0 commentaires pour l'article 336295