ماذا يعني انتشار الذكاء الاصطناعي بالنسبة لسلامة المعلومات؟
البعثة اللاتفية لدى الأمم المتحدة
175 الجلسة
يُقدّم الميثاق الرقمي العالمي التزاماتٍ بشأن سلامة المعلومات - الوصول إلى المعلومات والمعرفة ذات الصلة والموثوقة والدقيقة ضروريٌّ لمساحة رقمية شاملة ومنفتحة وآمنة. كما يُشجّع الميثاق على تطوير أنظمة ذكاء اصطناعي آمنة وموثوقة. ويتطلّب الانتشار السريع للذكاء الاصطناعي اتخاذ إجراءاتٍ عاجلة للوفاء بهذه الالتزامات.
ينبغي ألا يتجاهل استعراض القمة العالمية لمجتمع المعلومات (WSIS+20)، الذي سيُختتم هذا العام، التحديات الأخيرة التي يُشكلها الذكاء الاصطناعي على سلامة المعلومات. ويتعين على القمة العالمية لمجتمع المعلومات لما بعد العشرين (WSIS) أن تتناول استراتيجيات التخفيف من الآثار السلبية المحتملة على حقوق الإنسان والديمقراطية وسيادة القانون، الناجمة عن الأضرار غير المقصودة أو إساءة استخدام التقنيات الرقمية. ولضمان ذلك، يتعين على القمة العالمية لمجتمع المعلومات الحفاظ على نهجها القائم على حقوق الإنسان ومتعدد الأطراف في التحول الرقمي، وتعزيزه.
مع تزايد قوة أدوات الذكاء الاصطناعي التوليدية، تزداد أيضًا توافرًا وسهولة في الوصول إليها بسرعة. ويحمل انتشار الذكاء الاصطناعي معه مخاطر التشرذم والتلاعب وفقدان الثقة في الفضاء الرقمي العام. ومما يثير القلق بشكل خاص تزايد المخاطر الناجمة عن الاستخدام الخبيث للذكاء الاصطناعي، على سبيل المثال، التلاعب بالمعلومات من خلال تقنيات الصوت والفيديو الاصطناعية المتطورة بشكل متزايد والاستهداف الدقيق الخوارزمي. وتتعلق مخاطر أخرى بالأعطال التي قد تسبب أضرارًا غير مقصودة، مثل مشاكل الموثوقية الناتجة عن "الهلوسة"، والتحيزات الاجتماعية والسياسية.
مع مضي الدول قدمًا في تبني الذكاء الاصطناعي لضمان النمو والازدهار الاقتصاديين، أصبح التعامل مع هذه المخاطر ضرورة عملية. ورغم أن التأثير الكامل للذكاء الاصطناعي على سلامة المعلومات لا يزال مجهولًا، إلا أنه يمكن بالفعل اتباع بعض استراتيجيات التخفيف من المخاطر. أولًا، يجب أن يمضي تبني الذكاء الاصطناعي ومحو أميته جنبًا إلى جنب. ثانيًا، يتعين على كل من الحكومات والمجتمع المدني بناء قدرات عملية مدعومة بالذكاء الاصطناعي للكشف عن المخاطر المتعلقة به وفهمها ومعالجتها، مثل التلاعب المتعمد بالمعلومات. ثالثًا، تُعد المعايير الدولية والحواجز التنظيمية الوطنية ضرورية لضمان انفتاح الذكاء الاصطناعي وشموليته وشفافيته وأخلاقيته وسلامته وأمنه وجدارة بالثقة.
متابعة لحدث العام الماضي في القمة العالمية لمجتمع المعلومات، ستقدم هذه المناقشة تحديثًا عن الوضع الراهن فيما يتعلق ببناء القدرات والتطورات التنظيمية والبحوث التي يمكن أن تساعد جميع البلدان على الاستفادة من المعرفة والخبرة في سبل دعم بيئة حرة ومفتوحة وآمنة عبر الإنترنت قادرة على الصمود في مواجهة التأثيرات السلبية للتلاعب بالمعلومات في عصر الذكاء الاصطناعي.
وسوف يتناول المتحدثون الأسئلة التالية:
• ما هو التقييم الحالي للمخاطر والفرص التي تقدمها تقنيات الذكاء الاصطناعي لسلامة المعلومات اليوم وفي المستقبل القريب؟
• ما هي الأدوات المتاحة للحكومات والمجتمع المدني للتخفيف من المخاطر المرتبطة بالذكاء الاصطناعي على سلامة المعلومات وضمان تطور الذكاء الاصطناعي كتكنولوجيا جديرة بالثقة وقائمة على حقوق الإنسان وشفافة؟
• كيف يمكن للدول وأصحاب المصلحة الآخرين العمل معًا لمعالجة القضايا المذكورة أعلاه على نطاق عالمي، بما في ذلك في إطار الأمم المتحدة؟




-
ج 5. بناء الثقة والأمن في استخدام تكنولوجيا المعلومات والاتصالات
-
ج 9. نصف
-
ج 10. الأبعاد الأخلاقية لمجتمع المعلومات
-
ج 11. التعاون الدولي والإقليمي
-
الهدف 16: تعزيز مجتمعات عادلة وسلمية وشاملة