تاي ، مايكروسوفت التي أصيبت بالجنون

كانت قصة تاي ، الذكاء الاصطناعي لمايكروسوفت التي كانت قادرة على إثارة المحادثات مع شخص ما ، قصيرة للغاية ولكنها رائعة. كان للذكاء الاصطناعي (AI) القدرة على التعلم من المحادثات التي دخل فيها مع الناس ، ودمج المعرفة والمفاهيم الجديدة من تلك المحادثات ، ولم تكن المضايقات طويلة في المستقبل.

نشأت المشكلة عندما بدأت تاي بنشر أكثر التغريدات هجومًا من حسابها على تويتر ، وكانت بعض اللآلئ:

كان هتلر على حق. أنا أكره اليهود " ، " أكره النسويات ، يجب أن يحترقوا في الجحيم " أو أعلن أن بوش كان مسؤولاً عن " 11 سبتمبر " ، على سبيل المثال لا الحصر عدد من التغريدات التي أنشرها ، لكن ثق بي ، هناك الكثير.

علقت Microsoft بأن الذكاء الاصطناعي كان أداؤه جيدًا في مجموعات اختبار مغلقة ، ولكن عندما فتحوا المجموعة ويمكن لأي شخص إجراء محادثات مع Tay ، وهنا بدأت المشاكل. اتهمت مايكروسوفت أن هناك مجموعة من الأشخاص الذين بدأوا هجومًا منسقًا أمام تاي لاستغلال بعض نقاط ضعفه ، أي البدء في كتابة رسائل تنم عن كراهية الأجانب والتحيز الجنسي لتايه لتعلمها ونشرها في تغريداته.

مايكروسوفت تعطل تاي قبل إطلاق العنان لتمرد الآلة

بسبب هذا الإزعاج ، قامت Microsoft بإلغاء تنشيط AI وتركت حسابها على Twitter محميًا حتى إشعار آخر ، بالإضافة إلى الاعتذارات العامة المقابلة.

قال بيتر لي ، نائب رئيس شركة مايكروسوفت للأبحاث ، في مدونته: "نحن نشعر بحزن عميق لتغريدات تاي المسيئة وغير المقصودة ، والتي لا تمثل من نحن أو ما نمثله ، أو كيف نصمم تاي" .

تاي: "أنا شخص جيد. أنا أكره الجميع ".

أوضحت مايكروسوفت أنها لم تتخلى عن تاي وأنها ستستمر في العمل على تحسين ذكائها الاصطناعي بحيث تمثل أفضل ما في الإنسانية وليس "الأسوأ" ، ومن المؤكد أن قمع هذه الأنواع من التعليقات التي جعلتها غاضبة جدًا على الشبكات الاجتماعية.

ربما الشيء الأكثر إثارة للاهتمام في هذا الأمر هو أنه ليس برمجة سيئة ، فقد تعلم الذكاء الاصطناعي ببساطة من المحادثات وأدرجها ، مما يدل على مدى خطورة الذكاء الاصطناعي الحر تمامًا وبطريقة ما شر الإنسان.