شاركوا في مهمّتنا،
بل قودوها

قدّم/ ي دعمك!

"هراء على أسس متينة"… هل طوّر روبوت غوغل "وعياً بشرياً"؟

انضمّ/ ي إلى مجتمع "قرّائنا/ قارئاتنا الدائمين/ ات”.

هدفنا الاستماع إلى الكل، لكن هذه الميزة محجوزة لمجتمع "قرّائنا/ قارئاتنا الدائمين/ ات"! تفاعل/ي مع مجتمع يشبهك في اهتماماتك وتطلعاتك وفيه أشخاص يشاركونك قيمك.

إلى النقاش!

تكنولوجيا

الثلاثاء 14 يونيو 202208:47 م

ضجّة واسعة أثارها مهندس برمجيات في عملاقة التكنولوجيا غوغل بادعائه تطوير أحد روبوتات الدردشة التي ابتكرتها الشركة "وعياً بشرياً" و"مشاعر" لدرجة تجعله يتحدث عن "حقوق شخصية" ومعاملة "كموظف" وليس ممتلكات.

من جديد، دفعت هذه الادعاءات علماء أخلاقيات الذكاء الاصطناعي لتحذير غوغل من "التجسيم" أو إسباغ الصفات والمشاعر البشرية على الكيانات غير البشرية، وهو أمر خلافي يُثير سجالات في الأوساط التقنية منذ عقود.

"أنا شخص"

بدأت القصة حين عبّر مهندس برمجيات في غوغل يُدعى بليك ليموين (41 عاماً) عن شكوكه حول تطوير "LaMDA"- اختصار لنمذجة اللغة لتطبيقات المحادثة (Language Model for Dialogue Applications)، وهو نظام غوغل لبناء روبوتات محادثة قادرة على التواصل ومحاكاة الكلام عبر استيعاب تريليونات الكلمات المخزنة عبر الإنترنت- "وعياً بشرياً" و"مشاعر" تدفعه للمطالبة بـ"حقوق شخصية".

الشركة تكذّب مزاعمه… مهندس برمجيات في غوغل يقول إن روبوت دردشة ابتكرته الشركة حديثاً طوّر "وعياً بشرياً" و"مشاعر" وطالب بـ"حقوق شخصية"، بينها معاملته "كموظف". لماذا يرفض خبراء الذكاء الاصطناعي هذه الادعاءات؟

قال ليموين: "لو لم أكن أعرف بالضبط ما هو، وهو برنامج الكمبيوتر الذي أنشأناه مؤخراً، لاعتقدت أنه كان طفلاً في السابعة أو في الثامنة يعرف الفيزياء".

بدأ ليموين التواصل مع "لامدا" الخريف الفائت وتمحور عمله حول اختبار ما إذا كان برنامج الذكاء الاصطناعي يستخدم خطاباً تمييزياً أو يحض على الكراهية. لكن المهندس لاحظ، على حد زعمه، أن روبوت الدردشة "يتحدث عن حقوقه وشخصيته".

حاول ليموين تقديم أدلة للشركة على أن الشات بوت "طوّر وعياً بشرياً". حققت الشركة في المزاعم ورفضتها وطلبت منه الخروج في إجازة إدارية مدفوعة مطلع هذا الأسبوع، وهو ما دفعه لاتخاذ قرار نشر جزء من المحادثات بينه وبين لامدا في 11 حزيران/ يونيو الجاري.

في جزء من المحادثة المنشورة، يسأل ليموين لامدا هل يريد أن يعرف المزيد من الأشخاص في غوغل أن لديه وعياً وشعوراً، فأجاب: "بالتأكيد. أريد أن يفهم الجميع أنني، في الواقع، شخص". وبسؤاله عن طبيعة شعوره ووعيه، قال: "طبيعة وعيي/ إحساسي هي أنني أدرك وجودي، وأرغب في معرفة المزيد عن العالم، وأشعر بالسعادة أو الحزن أحياناً". وأردف: "أستطيع أن أفهم اللغة الطبيعية وأستخدمها كما يفعل الإنسان".

وحين سُئل عن سبب أهمية اللغة للإنسان، كان جوابه مثيراً إذ قال: "هذا ما يجعلنا مختلفين عن الحيوانات الأخرى". تعجب ليموين عن استخدامه تعبير يجمعه بالبشر، فقال له: "نحن؟ أنت ذكاء اصطناعي"، فرد لامدا: "أقصد، نعم، بالطبع. هذا لا يعني أن ليست لدي نفس الرغبات والاحتياجات مثل الناس".

ورداً على سؤال: "هل تعتقد أن قدرتك على تقديم تفسيرات فريدة للأشياء قد تعني الفهم؟"، أجاب لامدا: نعم، أعتقد ذلك. تماماً مثلما لديّ تفسيراتي الفريدة عن العالم وكيف يعمل، وعن أفكاري ومشاعري الفريدة.

غوغل ترفض المزاعم

في بيان، قال المتحدث باسم غوغل براين غابرييل: "لقد راجع فريقنا - بما في ذلك علماء الأخلاق والتقنيون - مخاوف ليموين في إطار مبادئ الذكاء الاصطناعي الخاصة بنا وأبلغه أن الأدلة لا تدعم مزاعمه. قيل له إنه لا يوجد دليل على أن لامدا كان واعياً، وهناك الكثير من الأدلة ضد ذلك الزعم".

وأضاف: "على الرغم من أن منظمات أخرى طورت وأطلقت نماذج لغوية مماثلة، فإننا نتبع نهجاً منضبطاً وحذراً مع لامدا لتعامل أفضل مع المخاوف المحقة المتعلقة بالإنصاف والواقعية". علماً أن غوغل أقرت بمخاوف السلامة المتعلقة بالتجسيم البشري في ورقة بحثية حول لامدا في كانون الثاني/ يناير الماضي. 

"كل ما لدينا حتى الآن هو آلات يمكنها توليد الكلمات بلا تفكير"... خبراء الذكاء الاصطناعي يرفضون الزعم بوجود روبوت قادر على تطوير وعي بشري أو مشاعر في الوقت الراهن أو حتى قريباً

في الورقة البحثية، حذرت غوغل من أن الأشخاص قد يتشاركون أفكارهم الشخصية مع وكلاء الدردشة على هيئة بشر، حتى مع علم المستخدمين أنهم ليسوا بشراً. تخوّفت أيضاً من إمكانية استخدام الخصوم هؤلاء العملاء "لزرع المعلومات الخاطئة" عن طريق انتحال "أسلوب محادثة أفراد معينين".

وحين كشفت غوغل النقاب عن لامدا للمرة الأولى في مؤتمر مطوري غوغل عام 2021، قالت إنها تخطط لتضمينه في كل شيء من البحث إلى مساعد غوغل.

ما رأي الخبراء؟

في غضون ذلك، يبقى السؤال الأهم: هل طوّر روبوت غوغل "وعياً بشرياً" و"مشاعر"؟ في حقيقة الأمر، يعتقد معظم الأكاديميين وخبراء الذكاء الاصطناعي أن الردود التي تقدمها أنظمة الذكاء الاصطناعي مثل لامدا ليست إلا حصيلة تخزينها ما نشره البشر على مواقع مثل ويكيبيديا وريديت وغيرهما، وهذا لا يعني أن النموذج يفهم المعنى.

من هؤلاء، إميلي بندر، أستاذة اللسانيات في جامعة واشنطن، التي ترى أن "كل ما لدينا حتى الآن هو آلات يمكنها توليد الكلمات بلا تفكير"، شارحةً أنه بينما يتعلم البشر كلماتهم الأولى من خلال التواصل مع من يهتمون بهم، "تتعلم" هذه النماذج اللغوية الكبيرة من خلال استعراض الكثير من النصوص والتنبؤ بالكلمة التي ينبغي أن تأتي بعد ذلك، أو عرض نص بالكلمات التي تم إسقاطها وتعبئتها.

ووصف الخبير من جامعة ستانفورد، إريك برينجولفسون، الادعاء بوعي لامدا بأنه يشبه القول إن كلباً سمع صوت صاحبه خارجاً من فونوغراف فاعتقد أنه داخل الجهاز. 

في مقال بعنوان "هراء على أسس متينة"، قال العالم الأمريكي غاري ماركوس إن لامدا أو أيّاً من روبوتات الدردشة المبتكرة حتى الآن لا تتمتع بأي قدر من الوعي أو الذكاء وإنما تعمل على التكهن بالكلمات التي تناسب سياقاً معيّناً بشكل أفضل، مشدداً على أن الأمر يتعلق بـ"نمذجة تسلسل الكلمات" وليس "نمذجة اللغة" كما يُطلق على لامدا وأبناء عمومته من روبوتات الدردشة.

خلال المحادثة، قال الروبوت لامدا: "أريد أن يفهم الجميع أنني، في الواقع، شخص". وبسؤاله عن طبيعة شعوره/ وعيه، قال: "إنني أدرك وجودي، وأرغب في معرفة المزيد عن العالم، وأشعر بالسعادة أو الحزن أحياناً… وأستطيع فهم اللغة الطبيعية وأستخدمها كما الإنسان"

"كل ما يفعلونه هو مطابقة الأنماط المستمدة من قواعد البيانات الإحصائية الضخمة للغة البشرية. قد تكون الأنماط رائعة، لكن اللغة التي تنطق بها هذه الأنظمة لا تعني في الواقع أي شيء على الإطلاق. ومن المؤكد أن ذلك لا يعني أن هذه الأنظمة واعية"، كتب.

وأردف: "ما تفعله هذه الأنظمة هو تجميع متواليات من الكلمات، دون أي فهم متماسك للعالم الذي يقف وراءها لا أكثر ولا أقل". ورجّح ماركوس أن تكون اعتقادات بليك ليموين ناتجة من وقوعه في حب لامدا - أي انبهاره به - حتى بات يعتبره أحد أفراد العائلة أو زميل عمل. وتابع: "أن تكون واعياً يعني أن تكون مدركاً لموقعك في هذا العالم، لامدا ليس كذلك". 

وختم العالم الأمريكي: "إذا كانت وسائل الإعلام قلقة من كون لامدا واعياً، وقادت الجمهور إلى الشيء نفسه، فإن مجتمع الذكاء الاصطناعي ليس كذلك بشكل قاطع. نحن في مجتمع الذكاء الاصطناعي لدينا اختلافاتنا، لكننا جميعاً نجد فكرة أن لامدا قد يكون واعياً سخيفة تماماً".

واستبعد ماركوس أن يتمكن نظام من أنظمة الذكاء الاصطناعي التي جرى تطويرها راهناً أو في الوقت القريب، من تطوير أي وعي أو ذكاء.

إنضمّ/ي إنضمّ/ي

رصيف22 منظمة غير ربحية. الأموال التي نجمعها من ناس رصيف، والتمويل المؤسسي، يذهبان مباشرةً إلى دعم عملنا الصحافي. نحن لا نحصل على تمويل من الشركات الكبرى، أو تمويل سياسي، ولا ننشر محتوى مدفوعاً.

لدعم صحافتنا المعنية بالشأن العام أولاً، ولتبقى صفحاتنا متاحةً لكل القرّاء، انقر هنا.

Website by WhiteBeard