هل يُشكّل الذكاء الاصطناعي خطرًا على البشرية؟
نورالدين بن منصور
قد يُفني الذكاء الاصطناعي البشرية عن غير قصد، وفقًا لسيناريو نهاية العالم.
هل يُشكّل الذكاء الاصطناعي تهديدًا للبشرية؟ إذا كان عليّ الاختيار بين نعم ولا، فسأقول لا. أنا مقتنع بأن الذكاء الاصطناعي، على المدى البعيد، سيجلب فوائد أكثر من أضراره، وتقدمًا أكثر من مخاطره. مع ذلك، قد تحدث الكثير من المشاكل في الطريق، وما زلنا لا نبذل ما يكفي لمنعها
كيف يُمكن أن يُصبح الذكاء الاصطناعي خطرًا على البشرية؟
السيناريو الخطير ا هو ان الانسان يُنشئ برنامجًا حاسوبيًا يتفوق على التفكير البشري. فقدان السيطرة على هذا البرنامج. فيبدأ في السعي لتحقيق أهدافه الخاصة بشكل مستقل. من الممكن أن يقرر ذكاء خارق كهذا السيطرة على العالم وإعلان الحروب. هذا التصور أن الذكاء الاصطناعي قد تحوّل إلى كيان خبيث ذي وعي خاص به. لكنني أستبعد هذا الاحتمال.
الذكاء الاصطناعي الحالي لا يزال عبارة عن أنظمة حاسوبية جامدة تعتمد على الرياضيات والمواصفات البشرية
علاوة على ذلك، من الممكن تجاوز إجراءات الأمان الخاصة بالنماذج، وهي ممارسة تُعرف أيضًا باسم "كسر الحماية". ولا يقتصر هذا على المستخدمين ذوي النوايا الخبيثة، بل يعمل حتى خبراء الذكاء الاصطناعي ذوو النوايا الحسنة على تحديد الثغرات الأمنية في منصات الذكاء الاصطناعي والإبلاغ عنها قبل استغلالها
النهج الثاني للحماية من مخاطر الذكاء الاصطناعي.
الذكاء الاصطناعي يساعد في استغلال الثغرات الأمنية في أنظمة تكنولوجيا المعلومات و يساعد في اكتشافها والتصدي لها في وقت مبكر. ويتطلب هذا من شركات التكنولوجيا تعاونًا أوثق في المستقبل وتبادل أحدث التطورات فيما بينها. وهو اهم نهج للوقاية من التهديدات.
كي تتمكن الشركات من الدفاع عن نفسها ضد الهجمات المدعومة بالذكاء الاصطناعي، يجب عليها فهم قدرات المهاجمين والوصول إلى أقوى نماذج الذكاء الاصطناعي في وقت مبكر. ويجري هذا بالفعل في مشروع "غلاس وينغ"، وهو اتحاد لشركات التكنولوجيا أطلقته شركة "أنثروبيك" المتخصصة في الذكاء الاصطناعي: حيث مُنحت شركات مثل جوجل ومايكروسوفت وأمازون إمكانية الوصول المبكر إلى أقوى نموذج لدى "أنثروبيك" حتى الآن، وهو "ميثوس". أعلنت شركة أنثروبيك قبل أسابيع قليلة أن هذا الأمر أسفر عن اكتشاف أكثر من 10,000 ثغرة أمنية خطيرة. علاوة على ذلك، في نهاية شهر جويلية، تضافرت جهود عدد من الشركات الرائدة في مجال التكنولوجيا والذكاء الاصطناعي لتشكيل تحالف الذكاء الاصطناعي المفتوح والآمن، الذي يدعو إلى توفير برمجيات ذكاء اصطناعي متاحة مجانًا للتخفيف من مخاطر الأمن السيبراني
هل يُشكل الذكاء الاصطناعي تهديدًا للبشرية؟
إذا كان من الاختيار بين نعم ولا وحسب المختصين الذكاء الاصطناعي، على المدى البعيد له فوائد أكثر من أضراره و لكن لا بد من إيجاد من الانتباه الى الكثير من الأمور قد تسوء خلال هذه العملية، و خاصة و ان الجهود المبذولة في هذا الميدان لا ما يكفي لمنعها
لا بد ان نذكر انه يُمكن للذكاء الاصطناعي أن يُصبح خطرًا على البشرية؟ صار الانسان ينتج و ينشئ برنامج حاسوبية تتفوق على التفكير البشر. يفقد السيطرة على هذا البرنامج، فيبدأ بالسعي وراء أهدافه الخاصة. من المُمكن أن يُقرر هذا الذكاء الخارق السيطرة على العالم وإعلان الحرب في ميادين معينة.
ان هذا الاتجاه يحول الذكاء الاصطناعي إلى مشوع ذي مصالح انانية و غايات محددة مسبقا و قد تتطور هذا الاتجاه على الرغم ان الذكاء الاصطناعي اليوم ما زال في بداياته أي لم يتعد الأنظمة الحاسوبية الجامدة
مخاطر استخدام الذكاء الاصطناعي
يرتبط استخدام الذكاء الاصطناعي بمخاطر أمنية محددة ينبغي على الشركات إدراكها وتقييمها. يشمل مصطلح "مخاطر أمن الذكاء الاصطناعي" جميع التهديدات ونقاط الضعف التي قد تنشأ عند تطوير أنظمة الذكاء الاصطناعي وتطبيقها واستخدامها. تنبع هذه المخاطر من نقاط الضعف التقنية ومعالجة البيانات والنماذج
تشمل التهديدات ما يلي
التلاعب ببيانات التدريب، مما يؤدي إلى نتائج خاطئة أو مشوهة
الهجمات على نماذج الذكاء الاصطناعي التي تؤثر عمدًا على سلوك الأنظمة
واجهات غير مؤمنة بشكل كافٍ تسمح بالوصول غير المصرح به
تسريب البيانات
كشف معلومات حساسة
اتخاذ قرارات خاطئة نتيجةً لانعدام الشفافية عندما لا يمكن تتبع نتائج أنظمة الذكاء الاصطناعي
الحماية من مخاطر الذكاء الاصطناعي.
لا يقتصر دور الذكاء الاصطناعي على استغلال الثغرات الأمنية في أنظمة تكنولوجيا المعلومات، بل يشمل أيضاً اكتشافها ومعالجتها. من واجب كل المختصين ان يكون بينهم تعاون جدي وتبادل أحدث التطورات فيما بينها.
حتى تتمكن الشركات من الدفاع عن نفسها ضد الهجمات المدعومة بالذكاء الاصطناعي، عليها فهم قدرات المهاجمين والوصول إلى أقوى نماذج الذكاء الاصطناعي في وقت مبكر. يجري تطبيق هذا بالفعل في مشروع "غلاس وينغ"، وهو اتحاد لشركات التكنولوجيا أطلقته شركة "أنثروبيك" المتخصصة في الذكاء الاصطناعي: حيث مُنحت شركات مثل جوجل ومايكروسوفت وأمازون إمكانية الوصول المبكر إلى أقوى نموذج لدى "أنثروبيك" حتى الآن، وهو "ميثوس".
وقد أعلنت "أنثروبيك" قبل مدة عن اكتشاف أكثر من 10,000 ثغرة أمنية حرجة من خلال هذه المبادرة. علاوة على ذلك، في نهاية جويلية، تضافرت جهود عدد من شركات التكنولوجيا والذكاء الاصطناعي الرائدة لتشكيل "تحالف الذكاء الاصطناعي المفتوح والآمن"، الذي يدعو إلى توفير برامج ونماذج ذكاء اصطناعي متاحة مجاناً للدفاع ضد مخاطر الأمن السيبراني.
قد يُفني الذكاء الاصطناعي البشرية عن غير قصد، وفقًا لسيناريو نهاية العالم.
هل يُشكّل الذكاء الاصطناعي تهديدًا للبشرية؟ إذا كان عليّ الاختيار بين نعم ولا، فسأقول لا. أنا مقتنع بأن الذكاء الاصطناعي، على المدى البعيد، سيجلب فوائد أكثر من أضراره، وتقدمًا أكثر من مخاطره. مع ذلك، قد تحدث الكثير من المشاكل في الطريق، وما زلنا لا نبذل ما يكفي لمنعها
كيف يُمكن أن يُصبح الذكاء الاصطناعي خطرًا على البشرية؟
السيناريو الخطير ا هو ان الانسان يُنشئ برنامجًا حاسوبيًا يتفوق على التفكير البشري. فقدان السيطرة على هذا البرنامج. فيبدأ في السعي لتحقيق أهدافه الخاصة بشكل مستقل. من الممكن أن يقرر ذكاء خارق كهذا السيطرة على العالم وإعلان الحروب. هذا التصور أن الذكاء الاصطناعي قد تحوّل إلى كيان خبيث ذي وعي خاص به. لكنني أستبعد هذا الاحتمال.
الذكاء الاصطناعي الحالي لا يزال عبارة عن أنظمة حاسوبية جامدة تعتمد على الرياضيات والمواصفات البشرية
علاوة على ذلك، من الممكن تجاوز إجراءات الأمان الخاصة بالنماذج، وهي ممارسة تُعرف أيضًا باسم "كسر الحماية". ولا يقتصر هذا على المستخدمين ذوي النوايا الخبيثة، بل يعمل حتى خبراء الذكاء الاصطناعي ذوو النوايا الحسنة على تحديد الثغرات الأمنية في منصات الذكاء الاصطناعي والإبلاغ عنها قبل استغلالها
النهج الثاني للحماية من مخاطر الذكاء الاصطناعي.
الذكاء الاصطناعي يساعد في استغلال الثغرات الأمنية في أنظمة تكنولوجيا المعلومات و يساعد في اكتشافها والتصدي لها في وقت مبكر. ويتطلب هذا من شركات التكنولوجيا تعاونًا أوثق في المستقبل وتبادل أحدث التطورات فيما بينها. وهو اهم نهج للوقاية من التهديدات.
كي تتمكن الشركات من الدفاع عن نفسها ضد الهجمات المدعومة بالذكاء الاصطناعي، يجب عليها فهم قدرات المهاجمين والوصول إلى أقوى نماذج الذكاء الاصطناعي في وقت مبكر. ويجري هذا بالفعل في مشروع "غلاس وينغ"، وهو اتحاد لشركات التكنولوجيا أطلقته شركة "أنثروبيك" المتخصصة في الذكاء الاصطناعي: حيث مُنحت شركات مثل جوجل ومايكروسوفت وأمازون إمكانية الوصول المبكر إلى أقوى نموذج لدى "أنثروبيك" حتى الآن، وهو "ميثوس". أعلنت شركة أنثروبيك قبل أسابيع قليلة أن هذا الأمر أسفر عن اكتشاف أكثر من 10,000 ثغرة أمنية خطيرة. علاوة على ذلك، في نهاية شهر جويلية، تضافرت جهود عدد من الشركات الرائدة في مجال التكنولوجيا والذكاء الاصطناعي لتشكيل تحالف الذكاء الاصطناعي المفتوح والآمن، الذي يدعو إلى توفير برمجيات ذكاء اصطناعي متاحة مجانًا للتخفيف من مخاطر الأمن السيبراني
هل يُشكل الذكاء الاصطناعي تهديدًا للبشرية؟
إذا كان من الاختيار بين نعم ولا وحسب المختصين الذكاء الاصطناعي، على المدى البعيد له فوائد أكثر من أضراره و لكن لا بد من إيجاد من الانتباه الى الكثير من الأمور قد تسوء خلال هذه العملية، و خاصة و ان الجهود المبذولة في هذا الميدان لا ما يكفي لمنعهالا بد ان نذكر انه يُمكن للذكاء الاصطناعي أن يُصبح خطرًا على البشرية؟ صار الانسان ينتج و ينشئ برنامج حاسوبية تتفوق على التفكير البشر. يفقد السيطرة على هذا البرنامج، فيبدأ بالسعي وراء أهدافه الخاصة. من المُمكن أن يُقرر هذا الذكاء الخارق السيطرة على العالم وإعلان الحرب في ميادين معينة.
ان هذا الاتجاه يحول الذكاء الاصطناعي إلى مشوع ذي مصالح انانية و غايات محددة مسبقا و قد تتطور هذا الاتجاه على الرغم ان الذكاء الاصطناعي اليوم ما زال في بداياته أي لم يتعد الأنظمة الحاسوبية الجامدة
مخاطر استخدام الذكاء الاصطناعي
يرتبط استخدام الذكاء الاصطناعي بمخاطر أمنية محددة ينبغي على الشركات إدراكها وتقييمها. يشمل مصطلح "مخاطر أمن الذكاء الاصطناعي" جميع التهديدات ونقاط الضعف التي قد تنشأ عند تطوير أنظمة الذكاء الاصطناعي وتطبيقها واستخدامها. تنبع هذه المخاطر من نقاط الضعف التقنية ومعالجة البيانات والنماذجتشمل التهديدات ما يلي
التلاعب ببيانات التدريب، مما يؤدي إلى نتائج خاطئة أو مشوهة
الهجمات على نماذج الذكاء الاصطناعي التي تؤثر عمدًا على سلوك الأنظمة
واجهات غير مؤمنة بشكل كافٍ تسمح بالوصول غير المصرح به
تسريب البيانات
كشف معلومات حساسة
اتخاذ قرارات خاطئة نتيجةً لانعدام الشفافية عندما لا يمكن تتبع نتائج أنظمة الذكاء الاصطناعي
الحماية من مخاطر الذكاء الاصطناعي.
لا يقتصر دور الذكاء الاصطناعي على استغلال الثغرات الأمنية في أنظمة تكنولوجيا المعلومات، بل يشمل أيضاً اكتشافها ومعالجتها. من واجب كل المختصين ان يكون بينهم تعاون جدي وتبادل أحدث التطورات فيما بينها.حتى تتمكن الشركات من الدفاع عن نفسها ضد الهجمات المدعومة بالذكاء الاصطناعي، عليها فهم قدرات المهاجمين والوصول إلى أقوى نماذج الذكاء الاصطناعي في وقت مبكر. يجري تطبيق هذا بالفعل في مشروع "غلاس وينغ"، وهو اتحاد لشركات التكنولوجيا أطلقته شركة "أنثروبيك" المتخصصة في الذكاء الاصطناعي: حيث مُنحت شركات مثل جوجل ومايكروسوفت وأمازون إمكانية الوصول المبكر إلى أقوى نموذج لدى "أنثروبيك" حتى الآن، وهو "ميثوس".
وقد أعلنت "أنثروبيك" قبل مدة عن اكتشاف أكثر من 10,000 ثغرة أمنية حرجة من خلال هذه المبادرة. علاوة على ذلك، في نهاية جويلية، تضافرت جهود عدد من شركات التكنولوجيا والذكاء الاصطناعي الرائدة لتشكيل "تحالف الذكاء الاصطناعي المفتوح والآمن"، الذي يدعو إلى توفير برامج ونماذج ذكاء اصطناعي متاحة مجاناً للدفاع ضد مخاطر الأمن السيبراني.
36°
24°
Comments
0 de 0 commentaires pour l'article 334697