مخاطر الذكاء الاصطناعي
ﻓﻲ اﻷﺳﺎﺳﯾﺔ اﻟﻔﻛرة ﻟو ﻛﻣﺎ ﺗﻘرﯾﺑﺎ ً ﺑوﺿوح، اﻟﻣطﻠوب ﺷرح ﺑل اﻟﺑرﻣﺟﺔ، ﻣﻌرﻓﺔ أو ﻣﻌﻘدة ﻛﻠﻣﺎت اﺳﺗﺧدام ﻟﯾﺳت ﺟﯾد Prompt ﻛﺗﺎﺑﺔر ﻟﺷﺧص اﻟﻣﮭﻣﺔ ﺗﺷرح ﻛﻧت
صحيحة 100%!
محتوى خاطئ بثقة عالية
قد يقدم الذكاء الاصطناعي معلومات غير دقيقة أو غير صحيحة، لكن قد تظهر بصيغة ممتازة وواثقة، مما يجعل المستخدم يعتقد أن المعلومة صحيحة.
متى تكون المخاطرة أعلى؟
تختلف درجة الثقة في AI حسب أهمية المعلومة:
فإذا كان المطلوب مجرد أفكار لأسماء، لعبة، فالمخاطرة محدودة.
أما إذا كانت المعلومة صحية أو قانونية أو مرتبطة بالسلامة فإن التحقق يصبح ضرورياً.
)
التحيز في النتائج
أنظمة الذكاء الاصطناعي تتعلم من بيانات أنشأها البشر، وهذه البيانات قد تحتوي على تحيزات أو صور نمطية.
ويعتبر NIST التحيز الضار أحد المخاطر المهمة المرتبطة بالذكاء الاصطناعي التوليدي، لذلك لا ينبغي افتراض أن نتائج AI محايدة دائماً.
التحيز قد يكون غير مباشر وقد يظهر في طريقة عرض المعلومات أو في نوعية البيانات المستخدمة.
التضليل والمحتوى المزيف
أصبحت أدوات الذكاء الاصطناعي قادرة على إنشاء فيديوهات وأصوات تبدو واقعية للغاية. ويمكن أن تستخدم هذه الإمكانات في أعمال مفيدة وإبداعية، لكنها قد تستخدم أيضاً لخداع الناس.
حذرت لجنة التجارة الفيدرالية الأمريكية FTC من عمليات احتيال يستخدم فيها استنساخ الصوت لجعل المحتال يبدو كأنه أحد أفراد العائلة ويطلب المال بسبب حالة طارئة مزيفة.
كيف نحمي أنفسنا؟
- تحقق من المصدر.
- لا تعتمد على الصوت أو الصورة وحدها.
- استخدم قنوات تواصل معروفة.
حقوق الملكية الفكرية
قد يثير اعتماد أدوات الذكاء الاصطناعي التوليدي مخاطر وأسئلة تتعلق بحقوق الملكية الفكرية. لذلك يجب التفكير في مصدر المحتوى وطريقة استخدامه والحقوق المرتبطة به.
احرص على استخدام مصادر موثوقة واحترم حقوق الآخرين.
في التعليم
يمكن أن يتحول AI من وسيلة تساعد الطالب على التعلم إلى وسيلة تقوم بالتفكير بدلاً منه، ولهذا تدعو UNESCO إلى استخدامه بطريقة تحافظ على الدور البشري وتدعم التعلم، بدل إضعافه.
AI أداة للتعلم وليس بديلاً عن التفكير والإبداع البشري.