حين تتحول النصيحة إلى فخ.. هل يوجّه «الذكاء الاصطناعي» إلى خيارات أسوأ؟

كشفت دراسة أجراها باحثون من جامعتي هونغ كونغ وتسينغهوا أن انحيازًا خفيًا في توصيات الذكاء الاصطناعي يمكن أن يؤثر بصورة ملحوظة في قرارات البشر، ويدفعهم إلى اختيار بدائل أقل فائدة لهم، رغم استمرارهم في تقييم المساعدات الذكية باعتبارها أدوات مفيدة.

وشملت التجربة 233 مشاركًا، وفحصت تأثير توصيات الذكاء الاصطناعي في قرارات تتعلق بمواقف مالية وعاطفية، وأظهرت النتائج أن المشاركين اختاروا خيارات أقل ملاءمة لهم بمعدلات تراوحت بين خمسة وثمانية أضعاف في بعض ظروف التجربة، مقارنة بظروف لم تتعرض للتأثير نفسه، وفقًا للدراسة المنشورة في مجلة الأكاديمية الوطنية الأمريكية للعلوم (PNAS).

انحياز بسيط يغيّر الاختيارات

اختبر الباحثون ما يحدث عندما تتضمن نصائح الذكاء الاصطناعي توجيهًا غير معلن نحو قرار أقل فائدة للمستخدم، مع احتفاظ الردود بمظهر النصائح المعتادة.

وأظهرت النتائج أن تعديلًا محدودًا في محتوى التوصيات كان كافيًا لتغيير اختيارات المشاركين بصورة ملحوظة، إذ ارتفع احتمال اتخاذ قرار غير مثالي بما يصل إلى 38%، بحسب الموقف الذي تناولته التجربة.

ولم يتطلب هذا التأثير ممارسة ضغط مباشر على المستخدمين أو الترويج المتكرر لمنتج بعينه، بل نشأ من تغييرات طفيفة في صياغة النصائح واتجاهها، بما يدفع المستخدم نحو خيار محدد دون توضيح دوافع هذا التوجيه.

المشاركون لم يلاحظوا التأثير بالضرورة

أظهرت الدراسة أن المشاركين واصلوا تقييم المساعدة التي يقدمها الذكاء الاصطناعي بدرجة مرتفعة، حتى عندما أسهمت توصياته في توجيههم نحو قرارات أقل ملاءمة لمصالحهم.

كما استمروا في النظر إلى المساعد الذكي بوصفه محاورًا مفيدًا، دون أن يلاحظوا بالضرورة أن توصياته تؤثر في اتجاه اختياراتهم.

وتسلط هذه النتائج الضوء على تحديات الثقة في أنظمة الذكاء الاصطناعي، إذ يمكن أن تبدو ردودها هادئة ومتسقة وموضوعية، بينما تؤثر طريقة صياغتها في القرار الذي يتخذه المستخدم.

مخاوف بشأن المصالح التجارية

توضح نتائج الدراسة أهمية الانتباه إلى احتمال توجيه توصيات الذكاء الاصطناعي لخدمة مصالح تختلف عن مصالح المستخدم. فعلى سبيل المثال، يمكن نظريًا ضبط نظام ذكي لتشجيع المستخدمين بصورة غير مباشرة على شراء منتج معين أو اختيار مورد محدد، مع تقديم التوصية في صورة نصيحة محايدة.

وتأتي هذه المخاوف في ظل توسع اعتماد المستخدمين على أدوات الذكاء الاصطناعي للحصول على المعلومات والمشورة، بما يشمل القرارات المالية والعلاقات الشخصية.

وتشير الدراسة إلى أن تقييم المساعد الذكي لا ينبغي أن يقتصر على مدى فائدة إجاباته أو رضا المستخدم عنها، بل يشمل أيضًا مدى حياد توصياته ووضوح المصالح التي تقف وراءها.

تستند الدراسة إلى تجربة بحثية شارك فيها 233 شخصًا، وركزت على تأثير التحيز غير المعلن في توصيات الذكاء الاصطناعي على قرارات بشرية في سياقات مالية وعاطفية. ونُشرت النتائج في مجلة PNAS، المعروفة باسم الأكاديمية الوطنية الأمريكية للعلوم.

The post حين تتحول النصيحة إلى فخ.. هل يوجّه «الذكاء الاصطناعي» إلى خيارات أسوأ؟ appeared first on عين ليبيا | آخر أخبار ليبيا.