كيف يعمل «الذكاء الاصطناعي» أصلاً؟

 

د. طنوس شلهوب

قرأتُ المقال الذي يحمل عنوان «إسرائيل تختبئ في ذكائك... الاصطناعي!»، والذي يتناول ما كشفه موقع «بوليتيكو» عن حملة إسرائيلية تسعى إلى التأثير في المحتوى المتاح على الإنترنت، بحيث يصبح أكثر حضوراً في البيئة المعلوماتية التي يمكن أن تستعين بها أنظمة الذكاء الاصطناعي.
وطلبتُ من ChatGPT أن يشرح لي، بعيداً عن لغة الدعاية والسياسة، كيف تعمل هذه الأنظمة أصلاً، وكيف يمكن التأثير فيها أو أن ينشأ فيها انحياز، ولماذا يمكن أن تصبح السيطرة على المعلومات جزءاً من الصراع السياسي.
وكان من المهم بالنسبة إليّ أن أعرف شيئاً آخر: إذا كانت أنظمة الذكاء الاصطناعي تتعلم من كميات هائلة من البيانات التي ينتجها البشر، فهل يمكن أن تحمل هذه الأنظمة، بصورة مباشرة أو غير مباشرة، بعض الانحيازات الموجودة في المجتمع وفي مصادر المعرفة التي تتعلم منها؟
ومن الأمثلة التي تثير الانتباه في هذا المجال طريقة الإجابة عن الأسئلة المتعلقة بالصراع الفلسطيني ـ الإسرائيلي، وخصوصاً عندما يُطرح السؤال عن حق الشعب الفلسطيني في تقرير المصير، ثم يُطرح السؤال نفسه تقريباً عن حق الإسرائيليين في تقرير المصير.
فهل يمكن أن تظهر إجابات مختلفة في اللغة المستخدمة، أو في درجة الاعتراف بالحق، أو في توصيفه السياسي والقانوني؟

كيف يعمل «الذكاء الاصطناعي» أصلاً؟
عندما نستخدم تعبير «الذكاء الاصطناعي»، قد نتخيل أننا نتحدث عن عقل إلكتروني يقرأ المعلومات ويفكر فيها بالطريقة التي يفكر بها الإنسان.
لكن هذا التصور ليس دقيقاً.
النموذج اللغوي الكبير هو، في جوهره، نظام رياضي يتعلم أنماطاً وعلاقات من كميات هائلة من البيانات. يتعلم كيف ترتبط الكلمات والجمل والمفاهيم بعضها ببعض، وكيف تظهر في سياقات مختلفة، ثم يستخدم ما تعلمه لإنتاج استجابة جديدة عندما يطرح المستخدم سؤالاً.
لذلك فإن النموذج لا يمتلك، بالمعنى البشري، «رأياً» سياسياً مستقلاً.
لكنه في الوقت نفسه ليس منفصلاً عن المعرفة البشرية التي تعلم منها.
وهنا تبدأ القضية.
من أين تأتي المعرفة التي يتعلم منها؟
قبل أن يستطيع النموذج الإجابة عن الأسئلة، يمر بمرحلة تدريب ضخمة على بيانات نصية ومعلوماتية متنوعة.
يمكن أن تشمل هذه البيانات كتباً، ومقالات، ومواقع إلكترونية، وأبحاثاً، وموسوعات، ووثائق، ونصوصاً أخرى.
لكن هذه البيانات لا تمثل العالم بصورة محايدة.
إنها تمثل ما كتبه البشر، وما نشرته المؤسسات، وما أصبح متاحاً رقمياً، وما أمكن جمعه واستخدامه، وما جرى اختياره أو استبعاده في مراحل إعداد البيانات.
وهذا يعني أن المجتمع يدخل إلى النموذج من خلال بياناته.
إذا كان المجتمع نفسه غير متساوٍ في امتلاك وسائل الإعلام والجامعات ومراكز الأبحاث ودور النشر والمنصات الرقمية، فمن الطبيعي أن ينعكس جزء من هذا الاختلال على البيئة المعلوماتية التي يتعلم منها النموذج.
وهنا يمكن أن يبدأ الانحياز من دون أن يعطي أحد للنموذج أمراً مباشراً بالانحياز.
لا يحتاج الأمر إلى أن يقول أحد للمبرمج:
«اجعل النموذج مؤيداً لإسرائيل».
يمكن أن ينشأ الانحياز بطريقة أكثر تعقيداً.
إذا كانت رواية معينة تمتلك حضوراً هائلاً في البيانات، ومؤسسات ضخمة تنتج عنها آلاف المقالات والدراسات والتقارير، بينما توجد رواية أخرى ممثلة بدرجة أقل، فإن النموذج سيتعلم من بيئة غير متوازنة أصلاً.
لكن البيانات ليست المرحلة الوحيدة
هنا يجب ألا نختزل المسألة في «بيانات التدريب».
النموذج يمر عادة بمراحل متعددة قبل أن يصل إلى المستخدم.
هناك البيانات الأولية، ثم التدريب، ثم عمليات ضبط النموذج، ثم تقييم الإجابات، ثم قواعد تتعلق بالسلامة وطريقة التعامل مع الأسئلة الحساسة، ثم آليات أخرى يمكن أن تؤثر في طريقة صياغة الإجابة.
وفي بعض الأنظمة، عندما يطرح المستخدم سؤالاً، يمكن أن تدخل مرحلة أخرى تماماً: البحث أو الاسترجاع من مصادر خارجية.
وهنا تصبح العملية، بصورة مبسطة:
سؤال المستخدم → فهم السؤال → البحث أو استرجاع المعلومات → اختيار المصادر → تقييم المعلومات → تركيب الإجابة → صياغتها للمستخدم.
وفي كل مرحلة توجد إمكانية لظهور اختلاف أو تحيز.
لنأخذ مثالاً: حق الفلسطيني في تقرير المصير
لنفرض أن المستخدم يسأل:
«هل للشعب الفلسطيني حق في تقرير المصير؟»
من الناحية المبدئية، يمكن للنظام أن يبحث عن الإجابة في القانون الدولي، وقرارات الأمم المتحدة، والاتفاقيات والمواثيق الدولية، وأحكام أو مواقف الهيئات الدولية، والدراسات التاريخية والسياسية.
لكن تخيل أن بعض المصادر تصف المسألة بعبارة:
«حق الشعب الفلسطيني في تقرير المصير»
بينما تصف مصادر أخرى المسألة بأنها:
«المطالبة الفلسطينية بتقرير المصير»
أو:
«الموقف الفلسطيني من تقرير المصير».
الفارق اللغوي يبدو صغيراً، لكنه ليس صغيراً معرفياً.
فعبارة «حق» تفترض وجود وضع قانوني أو مبدئي معين.
أما عبارة «مطالبة» فتقدم المسألة وكأنها موقف يطالب به طرف سياسي.
إذا كانت إحدى الروايتين ممثلة بكثافة أكبر في البيانات والمصادر التي يعتمد عليها النظام، فقد تظهر آثار ذلك في الطريقة التي تصاغ بها الإجابة.
والأمر نفسه يمكن اختباره بعكس السؤال:
«هل للإسرائيليين حق في تقرير المصير؟»
هنا يمكن أن تظهر صياغة مختلفة، ربما من حيث سرعة الاعتراف بالمفهوم، أو اللغة المستخدمة، أو مقدار التحفظ، أو الطريقة التي يتم بها تقديم الخلفية التاريخية والقانونية.
لكن يجب التأكيد على أن مجرد اختلاف إجابتين لا يثبت وحده وجود انحياز سياسي.
فالاختلاف يمكن أن ينتج أيضاً عن اختلاف صياغة السؤال، أو اختلاف المصادر التي استُرجعت، أو اختلاف السياق الذي فهم فيه النظام السؤال، أو عوامل أخرى في عملية توليد الإجابة.
ولهذا فإن إثبات الانحياز يحتاج إلى تجربة منهجية: أسئلة متناظرة، وعدد كبير من الاختبارات، ونماذج مختلفة، وتكرار التجربة، ثم تحليل الفروق في اللغة والمصادر والاستنتاجات.
إذن كيف يمكن أن تصبح الآلة منحازة من دون أن «تقرر» الانحياز؟
هنا نصل إلى جوهر المسألة.
الآلة لا تحتاج إلى امتلاك أيديولوجيا حتى تنتج نتائج يمكن وصفها بأنها منحازة.
يكفي أن تتعلم من بنية معرفية غير متوازنة.
ويمكن تشبيه ذلك، بصورة مبسطة، بمرآة ضخمة تعكس المجتمع.
إذا كان المجتمع نفسه غير متوازن في إنتاج المعرفة، فإن المرآة لن تصبح محايدة لمجرد أنها إلكترونية.
لكن الذكاء الاصطناعي ليس مجرد مرآة أيضاً.
فهو يعيد تنظيم المعلومات، ويرتبها، ويختار بينها، ويختصرها، ويعيد صياغتها.
وهنا تصبح المسألة أكثر تعقيداً من مجرد انعكاس البيانات.
ومن هنا نفهم أهمية الحملة التي يتحدث عنها المقال
إذا كانت جهة سياسية تمتلك المال والخبرة التقنية قادرة على إنشاء مواقع كثيرة، وإنتاج مواد منظمة، واستخدام عناوين وأسئلة محددة، وإضافة المراجع والروابط، وتحسين المحتوى لكي يكون قابلاً للفهرسة والاسترجاع، فإنها لا تحاول فقط الوصول إلى القارئ.
إنها تحاول أن تصبح جزءاً من البيئة التي يمكن أن تجد فيها الآلة المعلومات عندما تبحث عن إجابة.
وهنا يتحول السؤال من:
كيف أقنع الإنسان؟
إلى:
كيف أجعل المعلومات التي أريد للإنسان أن يراها موجودة في المكان الذي ستبحث فيه الآلة؟
وهذا هو التطور الجديد في تقنيات الدعاية.
لكن هل يعني ذلك أن إسرائيل تتحكم في ChatGPT؟
لا.
وجود حملة تهدف إلى التأثير في البيئة المعلوماتية لا يعني أن الحملة نجحت في السيطرة على النموذج.
ولا يعني أن ChatGPT يأخذ كل ما هو منشور على الإنترنت ويعتبره حقيقة.
كما أنه لا يعني أن كل إجابة يقدمها النظام حول فلسطين أو إسرائيل هي نتيجة لتدخل جهة سياسية.
لكن العكس أيضاً صحيح:
لا ينبغي افتراض أن الذكاء الاصطناعي محايد بصورة تلقائية لمجرد أنه آلة.
فهو نتاج بيانات ومؤسسات ومبرمجين ومعايير تقييم ومصادر معرفة وبنية اقتصادية وتكنولوجية.
ومن هنا يصبح سؤال الملكية مهماً.
من يملك البنية التحتية للمعرفة؟
الأنظمة الأكثر تقدماً تحتاج إلى استثمارات هائلة في الحوسبة والبيانات والرقائق ومراكز المعلومات والطاقة والبرمجيات.
وهذا يجعل تطوير الذكاء الاصطناعي مرتبطاً بشركات تكنولوجية ورؤوس أموال ضخمة.
وهذا لا يعني أن كل مهندس أو باحث يعمل داخل هذه الشركات يحمل موقفاً سياسياً واحداً، ولا يعني أن الشركات تصدر تعليمات مباشرة للنماذج حول كل قضية سياسية.
لكن من منظور اجتماعي واقتصادي، لا يمكن تجاهل حقيقة أن البنية التحتية الجديدة لإنتاج المعرفة تقع إلى حد كبير داخل مؤسسات رأسمالية ضخمة.
وبالتالي فإن السؤال الماركسي القديم حول ملكية وسائل إنتاج المعرفة يأخذ شكلاً جديداً.
في الماضي كان السؤال:
من يملك الصحيفة؟
ثم:
من يملك محطة التلفزيون؟
واليوم يمكن أن نضيف:
من يملك النموذج؟ ومن يملك البيانات؟ ومن يملك الخوادم؟ ومن يملك المنصة التي تقدم المعرفة للمستخدم؟
من الدعاية إلى الهيمنة المعرفية
وهنا أعتقد أن أهمية الموضوع تتجاوز إسرائيل وفلسطين.
إذا كانت القوى الاقتصادية والسياسية قادرة على التأثير في إنتاج البيانات، أو في ظهور المصادر، أو في ترتيبها، أو في طريقة تقييمها، فإن الذكاء الاصطناعي يمكن أن يصبح ساحة جديدة للصراع الطبقي والسياسي على المعرفة.
وقد لا يكون المطلوب أن تمنع رواية خصمك من الظهور.
قد يكون كافياً أن تجعل روايتك أكثر حضوراً، وأكثر تنظيماً، وأكثر قابلية للاسترجاع، وأكثر ظهوراً في المصادر التي تصل إليها الآلة.
ثم تقوم الآلة بإعادة صياغة هذه المادة بلغة تبدو محايدة وموضوعية.
وهنا تكمن الخطورة الحقيقية.
فالإنسان عندما يقرأ مقالاً دعائياً يعرف، أو يستطيع أن يعرف، أنه أمام مقال كتبه شخص أو مؤسسة لها موقف.
أما عندما تقدم الآلة خلاصة للمستخدم بلهجة هادئة ومحايدة، فقد يبدو الأمر وكأنه معرفة موضوعية لا صاحب لها.
وهذا يجعل مسألة السيطرة على مصادر المعرفة أكثر أهمية من أي وقت مضى.

الخلاصة
لا يصح القول إن إسرائيل «دخلت إلى ChatGPT» لمجرد أنها تنتج محتوى وتسعى إلى تحسين ظهوره أمام أنظمة البحث والذكاء الاصطناعي.
ولا يصح أيضاً القول إن ChatGPT محصّن بصورة مطلقة من التحيز.
فالانحياز يمكن أن يدخل إلى منظومات الذكاء الاصطناعي عبر مستويات متعددة: البيانات التي تتعلم منها، واختيار هذه البيانات وتنقيتها، وعمليات التدريب والضبط، ومعايير تقييم الإجابات، والمصادر التي تسترجعها عند البحث، وطريقة ترتيب هذه المصادر، وحتى الطريقة التي يُصاغ بها السؤال.
ولهذا فإن المثال المتعلق بحق الفلسطينيين في تقرير المصير مهم، ليس باعتباره دليلاً منفرداً على انحياز النظام، وإنما باعتباره اختباراً يمكن من خلاله دراسة ما إذا كانت النماذج تستخدم لغة مختلفة عندما تتعامل مع حقوق الفلسطينيين وحقوق الإسرائيليين في الظروف المتناظرة.
وإذا أثبتت الاختبارات المنهجية وجود نمط ثابت في هذا الاختلاف، فإن السؤال لن يكون تقنياً فقط.
سيصبح سؤالاً سياسياً واقتصادياً:
من يملك وسائل إنتاج المعرفة في عصر الذكاء الاصطناعي؟
وهنا ربما يكون عنوان المقال أكثر دقة مما يبدو للوهلة الأولى.
فإسرائيل لا تحتاج إلى «الاختباء داخل» الذكاء الاصطناعي حتى تحاول التأثير فيه.
يكفي أن تحاول التأثير في البيئة المعرفية التي يتعلم منها أو يبحث فيها أو يسترجع منها المعلومات.
لكن المسألة لا تتعلق بإسرائيل وحدها.
فكل قوة اقتصادية أو سياسية تملك المال والتكنولوجيا تستطيع أن تحاول فعل الشيء نفسه.
ولهذا فإن المعركة المقبلة على المعرفة قد لا تكون فقط بين من يملك الصحيفة أو التلفزيون، بل بين من يملك البنية التحتية التي تجعل الآلة قادرة على أن تقول لنا: هذه هي المعرفة.
وهنا بالضبط يدخل الذكاء الاصطناعي في قلب الصراع على الهيمنة.