مختصون لـ«اليوم»: الثقة العمياء بالذكاء الاصطناعي تهدد دقة المعلومات وسرية البيانات
حذر مختصون في الذكاء الاصطناعي وتقنية المعلومات من الاعتماد على إجابات الأنظمة الذكية دون التحقق من صحتها، مؤكدين أن هذه الأدوات قد تنتج معلومات مختلقة ومراجع غير موجودة بصياغة مقنعة توحي بالدقة والموثوقية، ما يزيد مخاطر استخدامها في اتخاذ القرارات المهمة. وأوضحوا في حديثهم لـ«اليوم» أن مسؤولية التحقق من المخرجات وحماية البيانات لا تسقط باستخدام الذكاء الاصطناعي، مشددين على ضرورة الرجوع إلى المصادر الرسمية والمختصين في المسائل الصحية والقانونية والمالية، وعدم إدخال المعلومات الشخصية أو المؤسسية الحساسة في الأدوات العامة، إلى جانب التحقق من أصالة الصور والمقاطع قبل تداولها.الإجابات المقنعة قد تكون خاطئةأكدت الأستاذة المشاركة في هندسة البرمجيات بجامعة الملك سعود الدكتورة عبير بنت سليمان الحميميدي، أن الثقة بمخرجات الذكاء الاصطناعي تتطلب فهم طبيعة هذه الأنظمة وحدودها، موضحة أن النماذج التوليدية تنتج المحتوى اعتمادًا على أنماط تعلمتها من البيانات، وقد تقدم معلومات غير صحيحة أو مراجع غير موجودة بصياغة متماسكة ومقنعة.د. عبير الحميميديأخبار متعلقة تقدم المملكة بتصنيف معهد IMD الدولي في الذكاء الاصطناعي بين 70 دولة13 % من مصابي الاضطرابات النفسية يطلبون العلاج مبكراً.. وتأخر العلاج يصل لـ 8 سنواتالروائح بلمسة الذكاء الاصطناعي.. كيف تتغير صناعة العطور؟وشددت على أن تقييم الإجابة يعتمد على التحقق من مصادرها الأصلية وحداثتها ومدى ارتباطها بالمعلومة، مؤكدة أن المستخدم يستطيع إجراء تحقق أولي بفتح المصادر وقراءة محتواها.وأوضحت أن المسؤولية عن الأخطاء لا يتحملها النظام بذاته، وإنما تتحدد وفق دور المطور ومقدم الخدمة والجهة المستخدمة والمستخدم، بحسب ملابسات الضرر والأنظمة ذات الصلة.وحذرت من إدخال البيانات الحساسة في الأدوات العامة، مشيرة إلى أن حذف الأسماء وحده لا يضمن إخفاء هوية أصحاب المعلومات.وأكدت أهمية التحقق من الصور والمقاطع بمراجعة مصادرها وتواريخها وسياقاتها والبحث العكسي عنها، لافتة إلى أن أدوات كشف التزييف تقدم مؤشرات مساعدة، لكنها لا تثبت الأصالة بصورة قاطعة.الهلوسة الرقمية وخطر الثقةوقالت الأستاذة المشاركة في نظم المعلومات والمتخصصة في الذكاء الاصطناعي والتقنيات الناشئة بجامعة الجوف الدكتورة مرام فهاد المفرح، إن التحدي لم يعد في الوصول إلى المعلومات، بل في القدرة على التمييز بين الإجابات الصحيحة والمعلومات التي تبدو مقنعة دون أن تكون دقيقة.د. مرام المفرح وأوضحت أن الذكاء الاصطناعي قد ينتج معلومات مختلقة بصياغة واثقة، فيما يعرف بظاهرة «الهلوسة الرقمية»، مؤكدة ضرورة التعامل مع مخرجاته بوصفها معلومات قابلة للتحقق وليست حقائق مطلقة.وشددت على أهمية مراجعة المصادر الرسمية ومقارنة الإجابات بمراجع موثوقة، وعدم الاكتفاء بأسلوب العرض أو ثقة الأداة في إجاباتها.وأشارت إلى أن المسؤولية عن الأضرار الناتجة عن المعلومات الخاطئة قد تتداخل بين المطور والجهة المستخدمة والمستخدم، وفق طبيعة الاستخدام والأطر التنظيمية.وحذرت من مشاركة البيانات الصحية والمالية والشخصية مع الأدوات العامة، وما قد يترتب عليها من مخاطر الاستخدام أو الإفصاح غير المقصود.وأكدت أن التزييف العميق يفرض ضرورة التحقق من الصور والمقاطع عبر مصادرها الأصلية، مشددة على أن الرجوع إلى المختص في القرارات الصحية والقانونية والمالية ضرورة، وأن الوعي الرقمي يعني معرفة متى نثق وكيف نتحقق.سهولة الإجابة لا تعني صحتهاوأوضح الأستاذ المشارك بقسم نظم المعلومات في كلية علوم الحاسب وتقنية المعلومات بجامعة الملك فيصل الدكتور عبدالمحسن بن سعود البشر، أن الخطر يبدأ عندما يخلط المستخدم بين سهولة الحصول على الإجابة وصحتها، مؤكدًا أن اللغة الواثقة والواجهة المريحة لا تضمنان موثوقية المحتوى.د. عبدالمحسن البشروأشار إلى أن التحقق يتطلب فتح المصادر المذكورة والتأكد من وجودها وحداثتها وصلتها بالسؤال، ومقارنة المعلومات بمصادر رسمية مستقلة، لأن مجرد طلب المراجع من الأداة لا يكفي لضمان صحة الإجابة.وأكد أن المسؤولية الأخلاقية والمهنية مشتركة، إذ ينبغي على المطور توضيح حدود النظام وتسهيل التحقق، وعلى الجهة المستخدمة توفير الإشراف البشري، فيما يتعين على المستخدم تجنب اتخاذ القرارات المصيرية بناءً على الإجابات الآلية وحدها.ونبه إلى مخاطر إدخال الهويات والسجلات الصحية والبيانات المصرفية والأسرار المهنية في الأدوات العامة، داعيًا إلى فهم سياسات الاحتفاظ بالمعلومات واستخدامها.وشدد على أن الصور والمقاطع الواقعية المظهر ليست بالضرورة أصلية، وأن أدوات كشف التزييف لا تحسم صحتها، مؤكدًا أهمية تصميم الأنظمة بطريقة تساعد المستخدم على التحقق وإدراك حدودها، لتستند ثقته إلى الأدلة لا إلى قوة العرض.المهارات المهنية تمنع الاعتماد المفرطوأكدت أخصائية الذكاء الاصطناعي أميرة القباع، أن التعامل الصحيح مع التقنيات الذكية يبدأ باعتبارها أدوات مساعدة توسع قدرات الإنسان، لا بديلًا عن تفكيره أو حكمه المهني.أميرة القباعوأوضحت أن الموظف يستطيع الاستفادة من هذه الأدوات في اكتشاف الأنماط وتحليل البيانات وإعداد التقارير، بشرط فهم المنهجية التي أنتجت النتائج والقدرة على تفسيرها والتحقق من صحتها.وحذرت من الوصول إلى مرحلة يفقد فيها الموظف القدرة على أداء مهامه الأساسية أو تقييم النتائج دون مساعدة الذكاء الاصطناعي، ناصحة بأن يبدأ بصياغة تصوره الخاص للمهمة قبل الاستعانة بالأداة لتطويره واختبار افتراضاته.وأشارت إلى أن المهارات الرقمية المطلوبة لا تقتصر على إتقان منصة واحدة، بل تشمل التعامل مع البيانات وفهم حدود النماذج وخصوصية المعلومات والأمن السيبراني واختبار جودة المخرجات.وشددت على أهمية توفير بيئات تجريبية آمنة داخل المنشآت، ووضع سياسات واضحة لحماية البيانات وتحديد المسؤوليات وتقييم النتائج قبل اعتماد الحلول.وأكدت أن قيمة الموظف لا تقاس بسرعة الإنجاز وحدها، بل بدقة النتائج وجودتها وأثرها الفعلي، وقدرته على توظيف التقنية دون التخلي عن المعرفة المتخصصة والمسؤولية المهنية.قاعدة لتوزيع العملوأكد الأستاذ المساعد بكلية علوم الحاسب وتقنية المعلومات الدكتور خالد عدنان العيسى، أن الذكاء الاصطناعي أداة مساعدة وليست مصدرًا معصومًا من الخطأ، داعيًا إلى التحقق من الإجابات عبر المصادر الرسمية ومقارنتها بأكثر من مرجع موثوق.د. خالد العيسىوحذر من الاعتماد على معلومات أو أرقام أو مراجع يصعب التحقق منها، خصوصًا في المجالات الصحية والقانونية والمالية، مشددًا على ضرورة المراجعة البشرية قبل اعتماد المخرجات في القرارات المهمة.وأشار إلى أن إدخال البيانات الشخصية والمؤسسية الحساسة في الأدوات العامة قد يؤدي إلى انتهاك الخصوصية أو تسرب المعلومات، مؤكدًا أهمية استخدام المنصات المعتمدة والالتزام بسياسات حماية البيانات.ودعا إلى التحقق من الصور والمقاطع عبر المصادر الأصلية والبحث العكسي وأدوات الكشف عن التلاعب الرقمي، وعدم تداول المحتوى غير الموثق.وطرح العيسى قاعدة أسماها «20-60-20» للاستخدام العملي، تقوم على تخصيص 20% من العمل للتفكير البشري وتحديد السياق وجمع المعلومات، ثم الاستعانة بالذكاء الاصطناعي في تنفيذ نحو 60% من المهام المناسبة له، وتخصيص 20% أخيرة لمراجعة النتائج وتعديلها.وأكد أن الهدف هو الاستفادة من التقنية مع إبقاء المسؤولية النهائية والتحقق واتخاذ القرار بيد الإنسان.
المصدر: اليوم