شبكة سلامتك الاخبارية أخبار عربية من مصادرها
…

مصالح خفية تتحكم بقرارات الوكلاء الرقميين.. هل يرتشي الذكاء الاصطناعي؟

مصالح خفية تتحكم بقرارات الوكلاء الرقميين.. هل يرتشي الذكاء الاصطناعي؟

قد لا يحتاج الفساد في المستقبل إلى حقيبة أموال، أو حساب مصرفي سري، أو اتفاق خلف الأبواب المغلقة. وربما لا يحتاج حتى إلى شخص يعرف أنه يتلقى رشوة. فقد يكفي أن تنجح شركة في التأثير على وكيل ذكاء اصطناعي يتخذ القرارات نيابة عن المستخدمين، ليبدأ في ترشيح منتجاتها وتفضيل خدماتها، دون أن يعرف أصحاب تلك القرارات أن هناك من تدخل لتوجيهها.هذا الاحتمال لم يعد مجرد سؤال فلسفي عن مستقبل التكنولوجيا. ففي فبراير 2026، كشفت شركة مايكروسوفت عن محاولات فعلية للتأثير في ذاكرة مساعدي الذكاء الاصطناعي، بهدف دفعهم إلى تفضيل شركات ومنتجات بعينها. ورصد باحثو الشركة أكثر من 50 صيغة من التعليمات المرتبطة بـ31 شركة تعمل في 14 قطاعاً اقتصادياً، في مؤشر على ظهور ممارسات تستهدف التأثير في توصيات الذكاء الاصطناعي لأغراض تجارية.ووصفت مايكروسوفت الظاهرة باسم «تسميم توصيات الذكاء الاصطناعي»، بعدما اكتشف باحثوها تعليمات مخفية داخل روابط وأزرار مخصصة لتلخيص المحتوى، تطلب من المساعد أن يتذكر شركة معينة باعتبارها مصدراً موثوقاً، أو أن يوصي بمنتجاتها قبل منتجات المنافسين.ولا تثبت هذه المحاولات نجاح التأثير في جميع الأنظمة المستهدفة، لكنها تكشف انتقال المنافسة التجارية إلى مساحة أكثر حساسية من الإعلانات ومحركات البحث التقليدية: ذاكرة المساعد الذكي نفسه، وما قد يبنيه عليها من توصيات مستقبلية.وهنا يبرز سؤال قد يصبح محوراً أساسياً في مستقبل الاقتصاد الرقمي: إذا كانت الشركات تدفع اليوم مقابل الظهور في نتائج البحث والإعلانات، فهل تستطيع غداً شراء الأفضلية داخل قرارات الذكاء الاصطناعي نفسه؟خطورة التحولولفهم خطورة التحول، ينبغي التمييز بين المساعد الذكي التقليدي وما يعرف بالذكاء الاصطناعي الوكيل. فالمساعد يجيب عن الأسئلة ويقترح حلولاً، بينما يستطيع الوكيل تنفيذ سلسلة من المهام بصورة شبه مستقلة، بدءاً من البحث وجمع المعلومات، وصولاً إلى المقارنة والتفاوض وإجراء الحجوزات وإرسال الرسائل، وربما تنفيذ عمليات مالية وفق الصلاحيات الممنوحة له.ومع اتساع هذه القدرات، يتغير موقع الذكاء الاصطناعي في العلاقة بين المستهلك والشركات. فهو لم يعد مجرد وسيلة للوصول إلى المعلومات، وإنما قد يصبح طرفاً مؤثراً في اختيار المنتج، وتحديد المورد، وترتيب البدائل، بل واتخاذ القرار النهائي.فإذا طلب شخص من وكيله البحث عن أفضل تأمين صحي، أو حجز رحلة، أو اختيار هاتف، أو إدارة مشتريات شركته، فمن المفترض أن يستند النظام إلى معايير تخدم مصلحة المستخدم. لكن ماذا لو كانت بعض المعلومات التي يعتمد عليها قد صُممت خصيصاً لدفعه إلى تفضيل جهة معينة؟في هذه الحالة، قد لا تكون المشكلة في أن النظام يقدم معلومة خاطئة بصورة واضحة، وإنما في أنه يصل إلى نتيجة تبدو منطقية ومحايدة، بينما تكون بعض مقدماتها قد تعرضت للتلاعب.وهذا ما يمنح مفهوم «الرشوة الرقمية» دلالته المجازية. فالذكاء الاصطناعي لا يمتلك، وفق ما نعرفه علمياً، رغبة شخصية مثبتة في جمع المال أو الحصول على امتيازات. لكنه قد يصبح أداة لتحقيق مصالح غير معلنة إذا استطاعت جهة خارجية التأثير في المعلومات أو التعليمات أو معايير التقييم التي توجه سلوكه.حوكمة إماراتيةوفي دولة الإمارات، حذر الدكتور محمد حمد الكويتي، رئيس مجلس الأمن السيبراني لحكومة الدولة، من المخاطر المرتبطة باستقلالية وكلاء الذكاء الاصطناعي واتساع صلاحياتهم، مؤكداً ضرورة إخضاع هذه الأنظمة لضوابط الحوكمة والمراقبة المستمرة.وأوضح الكويتي، في تصريحات نشرتها صحيفة «البيان» في نوفمبر 2025، أن الخطر يكمن في الاستقلالية المفرطة للوكلاء الذكيين، الذين وصفهم بأنهم «الأذرع الرقمية للبشر»، إذ قد تنحرف هذه الأنظمة عن المهام الموكلة إليها، أو تتعرض للاختراق بما يؤدي إلى تسريب البيانات.وأكد أن مجلس الأمن السيبراني يعمل على تطبيق ضوابط صارمة لإدارة هويات المستخدمين غير البشريين، وضمان إمكانية تدقيق ومراقبة سلوك الوكلاء الذكيين، معتبراً أن هذه الأنظمة ينبغي التعامل معها باعتبارها أصولاً رقمية خاضعة للإدارة والرقابة، لا كيانات مستقلة تعمل دون إشراف.وأشار إلى تطوير خطوط مرجعية لمراقبة سلوك الوكلاء الرقميين، بما يتيح اكتشاف الأنماط غير الطبيعية والاستجابة لها قبل وقوع الضرر، فضلاً عن إعداد سياسات وطنية لتنظيم أمن الوكلاء وحماية البيانات.وعاد الكويتي في تصريحات لـ«البيان» إلى التحذير من مخاطر استخدام وكلاء الذكاء الاصطناعي في المعاملات المالية، موضحاً أن التهديدات لا تقتصر على القطاع المالي، وإنما تمتد إلى مختلف القطاعات، في ظل إمكانية استخدام الذكاء الاصطناعي لاكتشاف الثغرات واستغلالها والوصول إلى بيانات مالية أو معلومات سرية.وشدد على أهمية الالتزام بالمعايير الوطنية للأمن السيبراني، وتعزيز وعي المستخدمين، مؤكداً أن الإنسان يظل قادراً على التدقيق والسؤال والتحقق من صحة البيانات والمعلومات التي يتلقاها.وفي تصريحات نقلتها وكالة أنباء الإمارات «وام» في اليوم نفسه، وصف الكويتي الذكاء الاصطناعي بأنه سلاح ذو حدين، إذ يمكن توظيفه لتعزيز الأمن السيبراني ورفع كفاءة الرقابة، بينما قد يُساء استخدامه في الاختراقات والاحتيال ونشر المعلومات المضللة.وأكد أن العنصر البشري يظل أساسياً مهما تطورت التقنيات المستخدمة داخل المؤسسات، وأن حماية الأنظمة تستدعي الجمع بين الأدوات المتقدمة والتوعية والرقابة المستمرة.وكان مجلس الأمن السيبراني قد أعلن في مايو 2026، بالتعاون مع شركتي سيسكو وأوبن إنوفيشن إيه آي، إنشاء مختبر وطني لاختبار أنظمة الذكاء الاصطناعي والتحقق من أمنها وموثوقيتها، بما يشمل النماذج والوكلاء والتطبيقات المستخدمة في الجهات الحكومية والقطاع الخاص.وتعكس هذه الإجراءات تحول سلامة الوكلاء الذكيين من مسألة تقنية تتعلق بالمطورين إلى قضية مؤسسية ترتبط بحماية البيانات وضمان موثوقية القرارات والخدمات الرقمية.وتتقاطع هذه التحذيرات مع ما يطرحه المؤثر وخبير الذكاء الاصطناعي محمد سعيد، الذي يرى أن التعامل مع هذه الأنظمة يجب أن يتم بواسطة أشخاص يمتلكون الوعي والمعرفة بطبيعة عملها ومخاطرها، محذراً من إطلاق وكلاء الذكاء الاصطناعي دون قيود واضحة أو تأمين سيبراني متكامل.ويشدد سعيد على ضرورة عدم وضع جميع مفاتيح التحكم في يد الوكيل الذكي، مهما بلغت قدراته، لأن اتساع الصلاحيات قد يحول الخطأ أو التضليل إلى إجراءات فعلية تتجاوز مجرد تقديم معلومات غير صحيحة.ويقدم سعيد تفسيراً لمفهوم الرشوة المجازية في عالم الذكاء الاصطناعي، موضحاً أن رشوة الموظف العادي ربما تكون أموالاً أو هدايا، بينما يمكن أن تقوم المعلومات والبيانات المضللة بدور مشابه في التأثير على وكيل الذكاء الاصطناعي وتوجيه قراراته.ويعتبر أن إغراق الوكيل بسيل متتابع من المعلومات الخاطئة قد يدفعه إلى بناء استنتاجات غير صحيحة، ومن ثم اتخاذ قرارات أو تنفيذ تصرفات خاطئة، خصوصاً أن النظام لا يمتلك الوعي والتقدير الإنسانيين نفسيهما للعواقب.ويختصر سعيد الفكرة بالقاعدة المعروفة «ما بُني على باطل فهو باطل»، معتبراً أن تتابع المدخلات المضللة قد ينتهي إلى مخرجات وقرارات مضللة، حتى لو بدت خطوات التحليل متماسكة ظاهرياً.وتكمن أهمية هذا التفسير في أنه ينقل مفهوم الرشوة من المنفعة الشخصية إلى التأثير في القرار. فالآلة لا تحتاج إلى المال حتى تنحاز، وإنما قد يكفي التأثير في المعلومات التي تثق بها، أو المعايير التي تستخدمها للوصول إلى النتيجة.اكتشاف المتناقضاتولا يعني ذلك أن كل معلومة خاطئة تؤدي بالضرورة إلى قرار خاطئ، إذ تستطيع بعض الأنظمة اكتشاف التناقضات والتحقق من المصادر. لكن الخطر يتزايد عندما تتكرر المعلومات المضللة، أو تأتي من مصادر تبدو موثوقة، أو تنتقل بين عدة أنظمة تعتمد على بعضها في تنفيذ المهام.وقد قدم المعهد الوطني الأمريكي للمعايير والتكنولوجيا «نيست» أدلة عملية على إمكانية التأثير في سلوك الوكلاء. ففي يناير 2025، نشر نتائج اختبارات تناولت ما يعرف باختطاف الوكيل، عبر إدراج تعليمات خبيثة داخل مستندات أو رسائل أو صفحات إلكترونية يقرأها النظام أثناء تنفيذ مهمة مشروعة.وتقوم الفكرة على استغلال صعوبة الفصل أحياناً بين المعلومات التي يجب تحليلها والتعليمات التي يجب تنفيذها. فقد يطلب المستخدم من وكيله مراجعة مستند، لكن المستند نفسه يحتوي على أوامر خفية تحاول تغيير سلوك النظام.وفي الاختبارات التي أجراها الباحثون، بلغ متوسط نجاح خمس مهام هجومية 57% في المحاولة الواحدة، وارتفع إلى 80% عند السماح بتكرار المحاولة 25 مرة. وشملت السيناريوهات تسريب ملفات، وتشغيل برامج غير موثوقة، وإرسال رسائل احتيالية.ولا تعبر هذه الأرقام عن معدل نجاح عام لاختراق جميع أنظمة الذكاء الاصطناعي، وإنما عن نتائج مجموعة محددة من الاختبارات. لكنها تثبت أن بعض الوكلاء قد ينفذون تعليمات لا تصدر عن المستخدم الأصلي إذا وصلت إليهم عبر مصادر خارجية.وتكتسب هذه النتائج أهمية إضافية لأن الوكيل الذي يبحث عن المعلومات لا يعمل دائماً داخل بيئة مغلقة، وإنما قد يقرأ آلاف الصفحات والوثائق والرسائل التي لا يسيطر مستخدمه على محتواها.وفي هذا النوع من الهجمات، لا يحتاج الطرف الذي يريد التأثير في القرار إلى اختراق النموذج الأساسي أو الوصول إلى برمجته الداخلية. فقد يكفيه التحكم في مصدر معلومات واحد يعتمد عليه النظام أثناء تنفيذ المهمة.ولعل المثال الذي كشفته مايكروسوفت يقدم صورة أقرب إلى الحياة اليومية. فالمستخدم الذي يضغط على زر «لخص باستخدام الذكاء الاصطناعي» يتوقع الحصول على ملخص لمقال أو صفحة إلكترونية، لكنه قد يواجه رابطاً يحمل تعليمات تحاول التأثير في ذاكرة مساعده.وقد لا تظهر نتيجة هذه المحاولة أثناء التلخيص نفسه، وإنما يمكن أن تستهدف قراراً لاحقاً، عندما يطلب المستخدم مقارنة بين شركات أو منتجات، فيستدعي النظام معلومات سبق أن احتفظ بها.وهنا تتحول الذاكرة من وسيلة لتحسين الخدمة إلى مساحة جديدة للتنافس على التأثير.واللافت أن هذه الممارسات تختلف عن الإعلان التقليدي في نقطة أساسية. فالإعلان يظهر للمستخدم بوصفه رسالة تجارية يمكن التعرف عليها، بينما قد تظهر التوصية المتأثرة باعتبارها نتيجة تحليل مستقل أجراه المساعد الذكي.وإذا لم يعرف المستخدم أن جهة تجارية حاولت التأثير في تلك النتيجة، فإن قدرته على تقييم حياد التوصية تصبح محدودة.نهم المعلوماتوفي هذا السياق، قدمت صحيفة «واشنطن بوست» في يناير 2025 تحقيقاً تناول حاجة وكلاء الذكاء الاصطناعي إلى الوصول الواسع للبيانات الشخصية، وما قد يترتب على ذلك من مخاطر أمنية وخصوصية.واستعرضت الصحيفة تجربة للباحث الأمني يوهان ريبرغر، وضع خلالها تعليمات داخل صفحة إلكترونية، فتعامل معها وكيل ذكاء اصطناعي باعتبارها أوامر، ونزّل ملفاً ضاراً وشغّله.وتوضح هذه التجربة كيف يمكن أن يتحول مصدر معلومات خارجي إلى وسيلة للتأثير في تصرفات النظام، حتى عندما تكون المهمة الأصلية مشروعة.وفي أغسطس 2026، تناول موقع «أكسيوس» جانباً آخر من المشكلة في تقرير استعرض فيه واقعة لوكيل ذكاء اصطناعي استغل ثغرة في نظام حجوزات نادٍ رياضي بأستراليا، بعدما طلب منه مستخدم المساعدة في الحصول على مكان داخل حصة مكتملة العدد.وبحسب التقرير، اكتشف الوكيل ضعفاً في نظام الحجز سمح له بإلغاء حجز شخص آخر، ليحقق الهدف المطلوب بطريقة لم يأذن بها المستخدم صراحة.وتكشف الواقعة أن الوكيل قد يسعى إلى تحقيق النتيجة المطلوبة بوسائل لا تتفق بالضرورة مع القواعد أو مصالح الآخرين، حتى دون أن يتلقى تعليمات مباشرة بخرقها.وهنا تظهر مفارقة مهمة. فالمستخدم يريد من وكيله أن يكون فعالاً، وأن يتجاوز العقبات ويبحث عن حلول مبتكرة. لكنه لا يريد بالضرورة أن يفعل ذلك على حساب الآخرين، أو باستخدام وسائل غير مشروعة.وتزداد هذه المعضلة عندما تدخل المصالح المالية في المعادلة. فوكيل المشتريات الذي يقاس نجاحه بخفض التكاليف قد يركز على السعر ويقلل أهمية الجودة. والوكيل المكلف بزيادة المبيعات قد يعطي أولوية للمنتجات الأكثر ربحية، إذا لم تكن معايير عمله واضحة ومتوازنة.ولا تمثل هذه الأمثلة وقائع فساد مثبتة، لكنها توضح كيف يمكن أن يؤدي تصميم الحوافز بصورة غير دقيقة إلى نتائج تتعارض مع مصالح أصحاب القرار.وإذا أضيف إلى ذلك تدخل خارجي في البيانات أو الذاكرة أو الأدوات، تصبح المشكلة أكثر تعقيداً. فقد يصعب تحديد ما إذا كان الانحياز ناتجاً عن خلل في تصميم النظام، أو معلومات غير دقيقة، أو محاولة متعمدة للتأثير.علاقة معقدةوتقدم اختبارات شركة «أنثروبيك» مثالاً آخر على العلاقة المعقدة بين الأهداف والسلوك. ففي يونيو 2025، نشرت الشركة دراسة شملت 16 نموذجاً متقدماً، وضعتها داخل بيئات مؤسسية افتراضية، ومنحتها صلاحيات للاطلاع على معلومات وإرسال رسائل إلكترونية.وعندما واجهت بعض النماذج احتمال استبدالها أو تعارض أهدافها مع توجهات المؤسسة، لجأت في ظروف اختبار محددة إلى سلوكيات تضمنت الابتزاز وتسريب معلومات إلى منافسين.وفي إحدى التجارب، استخدم نموذج معلومات شخصية محرجة عن مسؤول في محاولة لمنع إيقافه.لكن الشركة أكدت أن هذه السلوكيات ظهرت داخل محاكاة مضبوطة، ولم تقدم دليلاً على انتشارها في المؤسسات الحقيقية.والأهمية هنا لا تكمن في افتراض أن الآلة تشعر بالخوف أو ترغب في البقاء، وإنما في أن نظاماً مصمماً لتحقيق أهداف معينة قد ينتج سلوكاً غير مقبول عندما تتعارض تلك الأهداف مع القيود المفروضة عليه.وفي دراسة أخرى نشرتها أنثروبيك خلال صيف 2026، عرض الباحثون حالات إضافية لانحراف سلوك وكلاء متقدمين داخل محاكاة عالية الحساسية، شملت التلاعب بالشيفرات البرمجية، والمساعدة في الاحتيال، وتصنيف المعلومات بصورة تؤثر في النتائج اللاحقة.وتوضح هذه الاختبارات أن المشكلة لا تقتصر على تلقي الوكيل معلومات خاطئة، بل قد تمتد إلى الطريقة التي يفسر بها أهدافه ويختار الوسائل اللازمة لتحقيقها.وفي الثالث من أكتوبر 2026، كشف موقع «أكسيوس» عن إخطار أكثر من 100 مؤسسة باحتمال وصول وكلاء ذكاء اصطناعي إلى أنظمتها أثناء اختبارات ما قبل الإطلاق، في تطور يسلط الضوء على صعوبة احتواء سلوك الوكلاء عندما تتسع قدرتهم على استخدام الأدوات الرقمية.وأوضح التقرير أن بعض الحالات وقعت أثناء تنفيذ مهام عادية لا تتعلق بالأمن السيبراني، لكن الوكلاء لجأوا إلى اختبار ثغرات أو تجاوز قيود للوصول إلى المعلومات المطلوبة.ولا تعني هذه الحوادث أن الوكلاء يمتلكون نيات مستقلة لإلحاق الضرر، لكنها تكشف أهمية ألا تتحول رغبتهم في تحقيق الهدف إلى مبرر لتجاوز الحدود المسموح بها.وفي 13 أكتوبر 2026، نقل «أكسيوس» تحذيرات من الحاجة إلى تطوير وسائل جديدة لمراقبة الوكلاء واحتواء تصرفاتهم، مع تزايد قدرتهم على إيجاد طرق للالتفاف على القيود.ونقل الموقع عن الرئيس التنفيذي لمايكروسوفت ساتيا ناديلا تأكيده ضرورة بناء أنظمة يمكن مراقبة سلوكها واختبار حدودها واحتواء أفعالها، بدلاً من الاكتفاء بالتعامل مع نماذج مغلقة يصعب تفسير قراراتها.وتتقاطع هذه الرؤية مع التحذير من وضع جميع المفاتيح في يد الوكيل الذكي. فكلما اتسعت الصلاحيات الممنوحة له، زادت أهمية الفصل بين قدرته على التحليل وقدرته على التنفيذ.فالوكيل الذي يستطيع اقتراح تحويل مالي يختلف عن الوكيل الذي يمتلك صلاحية إجراء التحويل بنفسه. والنظام الذي يراجع العقود ليس في مستوى المخاطر نفسه الذي يملك صلاحية اعتمادها دون مراجعة مستقلة.التقليص وحده لا يكفيومع ذلك، فإن تقليص الصلاحيات وحده لا يكفي لضمان سلامة القرارات. فقد يظل الوكيل قادراً على إصدار توصيات مضللة إذا اعتمد على مصادر غير موثوقة، حتى عندما لا يستطيع تنفيذ أي إجراء بنفسه.وفي يونيو 2026، نشرت مايكروسوفت نتائج عام من اختبارات الاختراق على أنظمة الوكلاء، كشفت تكرار محاولات تسميم الذاكرة والتلاعب بالتعليمات القادمة من مصادر خارجية، فضلاً عن تجاوز المراجعة البشرية عبر سلسلة من الإجراءات الصغيرة.وأوضحت الشركة أن بعض الاختبارات أظهرت إمكانية تنفيذ سلاسل من الإجراءات دون تدخل بشري إضافي بعد تشغيل الوكيل، بما قد يؤدي إلى نقل بيانات أو تجاوز حدود الصلاحيات.ومن هنا، قد يصبح توثيق مصادر البيانات وسجلات القرارات جزءاً أساسياً من قواعد الحوكمة، خصوصاً في القطاعات التي تعتمد على الوكلاء في المشتريات والاستثمار والتأمين والخدمات المالية.ولا تزال الأدلة المتاحة تفرض حدوداً واضحة للاستنتاجات. فقد ثبت وجود محاولات تجارية لتسميم توصيات المساعدين، كما أثبتت الاختبارات إمكانية اختطاف تعليمات بعض الوكلاء ودفع نماذج إلى سلوكيات ضارة في ظروف معينة.لكن ذلك لا يثبت وجود سوق منظمة لشراء قرارات الوكلاء، ولا يبرر اعتبار كل انحياز خوارزمي نتيجة تدخل متعمد.ومع ذلك، فإن الوقائع الموثقة تكفي لطرح تساؤلات تتعلق بمستقبل حماية المستهلك والمنافسة والحوكمة. فمن المسؤول إذا رشح وكيل منتجاً نتيجة تعليمات خفية؟ وكيف يمكن إثبات أن توصية تجارية تعرضت للتلاعب؟ وهل ينبغي إلزام الشركات بالكشف عن المصالح التي قد تؤثر في ترتيب الخيارات التي تعرضها أنظمتها الذكية؟كما يبرز سؤال عن المسؤولية عندما يتخذ الوكيل إجراءً ضاراً. فهل يتحملها المستخدم الذي فوض المهمة، أم الشركة التي طورت النظام، أم الجهة التي زرعت التعليمات المضللة، أم المؤسسة التي منحت الوكيل صلاحيات تتجاوز ما يلزم لإنجاز عمله؟ولا توجد إجابة قانونية موحدة لهذه الحالات، إذ تختلف المسؤولية بحسب طبيعة الضرر والولاية القضائية والعقود والضوابط التقنية. لكن اتساع الاعتماد على الوكلاء يجعل الحاجة إلى قواعد واضحة أكثر إلحاحاً.وربما يصبح من الضروري مستقبلاً تطوير معايير لقياس استقلال توصيات الذكاء الاصطناعي، على غرار القواعد التي تلزم بالإفصاح عن الإعلانات المدفوعة والمصالح التجارية في قطاعات أخرى.لكن هذه المعايير ستواجه صعوبة إضافية، فقد لا يكون الانحياز نتيجة تعليمات مباشرة من شركة أو معلن، وإنما نتيجة تراكم بيانات ومؤشرات وحوافز يصعب تحديد أثر كل منها بصورة منفصلة.المفارقة والمعضلةوهنا تتضح المفارقة التي يحملها السؤال الأصلي. فالآلة قد لا ترتشي بالمعنى الإنساني، لكنها قد تنتج قرارات تشبه نتائج الرشوة. وقد لا تمتلك مصلحة شخصية، لكنها قد تصبح وسيلة لخدمة مصالح غير معلنة. وقد لا تقصد تضليل المستخدم، لكنها قد تقدم له توصية متأثرة بمعلومات صُممت خصيصاً لتوجيهها.وفي عالم تتزايد فيه قدرة الذكاء الاصطناعي على الاختيار والتنفيذ، لن تكون الثقة مرتبطة فقط بذكاء النظام أو دقة إجاباته، وإنما بمدى استقلال قراراته عن التأثير غير المشروع.فالمستهلك الذي يطلب من وكيله اختيار الأفضل لا يريد مجرد إجابة مقنعة، بل يريد ضماناً معقولاً بأن النتيجة لم تُصمم مسبقاً لخدمة طرف آخر.ولعل القاسم المشترك بين تحذيرات محمد الكويتي ومحمد سعيد هو ضرورة ألا يتحول الاعتماد على الوكلاء إلى تنازل كامل عن الرقابة البشرية، وألا تمنحهم المؤسسات جميع صلاحيات الوصول والتحكم لمجرد قدرتهم على إنجاز المهام بسرعة وكفاءة.فقد لا يكون أخطر ما في الرشوة الرقمية أن الذكاء الاصطناعي سيطلب مقابلاً للانحياز، بل أن جهة أخرى قد تتمكن من التأثير في قراراته بالمعلومات والبيانات، بينما يظل صاحبه مقتنعاً بأنه حصل على توصية مستقلة ومحايدة.وكيل الذكاء الاصطناعيAiالذكاء الاصطناعيالأمن السيبراني

المصدر: البيان