الذكاء الاصطناعي... من مكافحة الهلوسة إلى تصميم الوكلاء

كتب جون ليكاتو(*) الباحث في مجالات تقاطع الذكاء الاصطناعي ومعالجة اللغة الطبيعية والمنطق البشري، يقول: «بصفتي مدير (مختبر تطوير المنطق البشري والآلي/ Advancing Human and Machine Reasoning lab)، في جامعة جنوب فلوريدا، فإني أقوم بتقديم هذه الأبحاث إلى الجهات الأخرى لتوفير أدوات لمسح ورصد الثغرات في تلك النماذج اللغوية».

تطورات نماذج الذكاء الاصطناعي

ويضيف: «من وجهة نظري، فقد لاحظت تطورات كبيرة في مجال نماذج لغة الذكاء الاصطناعي في عام 2024، سواء في ميدان البحث أو الصناعة. وربما من أكثر هذه التطورات إثارة كانت قدرات نماذج اللغة الصغرى، ودعم معالجة هلوسة الذكاء الاصطناعي، وأطر تطوير وكلاء الذكاء الاصطناعي».

قدرات الذكاء الاصطناعي الصغير

في قلب منتجات الذكاء الاصطناعي التوليدي المتاحة تجارياً مثل «تشات جي بي تي (ChatGPT)» توجد نماذج لغة كبيرة (LLMs)، التي يتم تدريبها على كميات هائلة من النصوص، وتنتج لغةً مقنعةً شبيهةً بالإنسان.

ويقاس حجم هذه النماذج عموماً بـ«معاملات (parameters)»، وهي القيم العددية التي يستمدها النموذج من بيانات التدريب الخاصة به.

* النماذج الكبرى

تحتوي النماذج التي تنتجها شركات الذكاء الاصطناعي الكبرى على مئات المليارات من المعاملات. وتقوم المنظمات التي لديها أكبر قدر من الموارد الحسابية بتجربة وتدريب نماذج لغة أكبر وأقوى بشكل متزايد. وتنتج هذه النماذج قدرات جديدة لنماذج اللغة الكبرى، ومعايير، ومجموعات تدريب، وحيل تدريب أو تحفيز.

* النماذج الصغرى

هناك تفاعل متكرر بين نماذج اللغة الكبرى ونماذج اللغة الصغرى، الذي يبدو أنه تسارع في عام 2024. وتُستخدم الكبرى لإنشاء نماذج لغوية صغرى - في نطاق 3 مليارات معامل أو أقل - التي يمكن تشغيلها على إعدادات كومبيوتر، وتتطلب طاقة وذاكرة أقل للتدريب، ويمكن ضبطها بدقة باستخدام بيانات أقل.

* إصدارات النماذج الصغرى

ليس من المستغرب إذن أن يصدر المطورون مجموعة من نماذج اللغة الأصغر حجماً والقوية - على الرغم من أن تعريف الصغير يتغير باستمرار مثل إصدارات «Phi-3»، ثم «Phi-4» من «مايكروسوفت»، و«Llama-3.2 1B»، ثم «3B»، وكذلك «Qwen2-VL-2B»... وهي ليست سوى أمثلة قليلة.

مهام محددة

يمكن تخصيص نماذج اللغة الصغرى هذه لمهام أكثر تحديداً، مثل تلخيص مجموعة من التعليقات بسرعة أو التحقق من صحة النص مقابل مرجع محدد. ويمكنها العمل مع «أبناء عمومتها» الأكبر حجماً لإنتاج أنظمة هجينة قوية بشكل متزايد.

التضليل والهلوسة

* تضليل وتزييف

يمكن أن يكون الوصول المتزايد إلى نماذج اللغة عالية القدرة الكبرى والصغرى نعمة مختلطة؛ إذ يمكن أن تمنح نماذج اللغة المستخدمين الضارين القدرة على إنشاء منشورات على وسائل التواصل الاجتماعي، والتأثير بشكل مخادع في الرأي العام.

وكان على شركة «أوبن إيه آي» المنتجة لـ«تشات جي بي تي» التدخل لتعطيل أكثر من 20 عملية وشبكة خادعة حاولت استخدام نماذجها في حملات انتخابية خادعة، حيث تم إنشاء مقاطع فيديو وصور ساخرة مزيفة ومشاركتها بمساعدة أدوات الذكاء الاصطناعي.

* «روبوتات» مشاغبة ومهلوسة

بدأت «غوغل» بتضمين على الذكاء الاصطناعي في نتائج البحث الخاصة بها، ما أسفر عن بعض النتائج التي كانت خاطئة بشكل مضحك وواضح؛ مثل الغراء في البيتزا الخاصة بك. ومع ذلك، ربما كانت النتائج الأخرى خاطئة بشكل خطير، مثل عندما اقترحت خلط مواد التنظيف للتبييض والتعقيم مع الخل لتنظيف الملابس.

وفي حادثة أخرى، قال روبوت محادثة يقدم المشورة بشأن قوانين ولوائح مدينة نيويورك بشكل غير صحيح إنه «من المسموح قانونياً لصاحب العمل طرد عامل يشكو من التحرش الجنسي، أو امرأة لا تكشف عن الحمل، أو رجل يرفض قص ضفائره».

«تخفيف» الهلوسة

إن نماذج اللغة الكبرى، كما يتم تصميمها بشكل شائع، معرَّضة للهلوسة. وهذا يعني أنها يمكن أن تذكر أشياء كاذبة أو مضللة، غالباً بلغة واثقة. على الرغم من أنني وآخرين ندق الطبول باستمرار حول هذا الأمر، فإن عام 2024 لا يزال يشهد محاولة كثير من المنظمات تعلّم المخاطر الناجمة عن هلوسة الذكاء الاصطناعي.

ولحسن الحظ، شهد عام 2024 أيضاً طرقاً جديدة للتخفيف من هلوسات الذكاء الاصطناعي والتعايش معها؛ إذ تعمل الشركات والباحثون على تطوير أدوات للتأكد من أن أنظمة الذكاء الاصطناعي تتبع القواعد المحددة قبل تقديمها للنتائج، فضلاً عن البيئات لتقييمها.

ولكن على الرغم من أن الباحثين يجدون باستمرار طرقاً للحد من الهلوسة، فإن الأبحاث في عام 2024 أظهرت بشكل مقنع أن هلوسات الذكاء الاصطناعي ستظل موجودة دائماً في شكل ما.

الوكلاء: الموجة الثالثة للذكاء الاصطناعي

لا تزال نماذج اللغة الكبرى، خصوصاً تلك التي تعمل بإصدارات مختلفة من بنية نظام المحول المصمم في داخلها، تقود أهم التطورات في مجال الذكاء الاصطناعي.

على سبيل المثال، يستخدم المطورون نماذج اللغة الكبرى ليس فقط لإنشاء روبوتات الدردشة، ولكن أيضاً لتكون بمثابة أساس لوكلاء الذكاء الاصطناعي. برز مصطلح «الذكاء الاصطناعي الوكيل» في عام 2024، حتى إن بعض الخبراء أطلقوا عليه «الموجة الثالثة من الذكاء الاصطناعي».

* ما هو الوكيل الذكي؟

لفهم ما هو وكيل الذكاء الاصطناعي، فكر في روبوت الدردشة الموسع بطريقتين:

- أولاً، امنحه إمكانية الوصول إلى الأدوات التي توفر القدرة على اتخاذ الإجراءات. قد تكون هذه القدرة على الاستعلام من محرك بحث خارجي، أو حجز رحلة، أو استخدام الآلة الحاسبة.

- ثانياً، امنحه استقلالية متزايدة، أو القدرة على اتخاذ مزيد من القرارات بمفرده.

على سبيل المثال، قد يكون روبوت الدردشة للسفر قادراً على إجراء بحث عن الرحلات بناءً على المعلومات التي تقدمها له، ولكن قد يخطط وكيل السفر المجهز بأدوات، لمسار الرحلة بالكامل، بما في ذلك تنفيذ الحجوزات، وإضافة الأحداث المهمة والفعاليات في أثناء السفرة، إلى التقويم الخاص بك.

إصدارات الوكلاء

في عام 2024، ظهرت أطر عمل جديدة لتطوير وكلاء الذكاء الاصطناعي. على سبيل المثال لا الحصر، تم إصدار أو تحسين «LangGraph»، و«CrewAI»، و«PhiData»، و«AutoGen/Magentic-One» في عام 2024.

بدأت الشركات للتو في تبني وكلاء الذكاء الاصطناعي. وبدأت أطر العمل لتصميم وكلاء الذكاء الاصطناعي جديدة تتطور بسرعة. ولكن ومع ذلك، لا تزال مخاطر الأمن والخصوصية والهلوسة تشكَّل مصدر قلق.

* توقعات المستقبل

ويتوقَّع محللو السوق العالمية أن تخطط 82 في المائة من المنظمات التي شملتها الاستطلاعات لاستخدام الوكلاء في غضون بين 1 و3 سنوات، ومن المرجح أن تتبنى 25 في المائة من جميع الشركات، التي تستخدم الذكاء الاصطناعي التوليدي حالياً، وكلاء الذكاء الاصطناعي في عام 2025.

* أستاذ مشارك في علوم الكومبيوتر بجامعة جنوب فلوريدا.

مجلة «فاست كومباني» - خدمات «تريبيون ميديا».

aawsat.com