عندما يطمس منظمة العفو الدولية الخط الفاصل بين الواقع والخيال

في مكان ما في فترات الاستراحة المظلمة في YouTube ، يوجد مقطع فيديو يعرض مقتطفات من فيلم The Fellowship of the Ring - ولكن ليس الفيلم الذي تتذكره تمامًا ، نظرًا لأن نيكولاس كيج يلعب دور البطولة في دور Frodo و Aragorn و Legolas و Gimli و Gollum. نفس الوقت. تعرض مقاطع الفيديو الأخرى Cage in Terminator 2 مثل T2000 ، و Star Trek في دور النقيب Picard ، و Superman ، وكذلك لويس لين.

بالطبع ، لم يظهر Nic Cage في أي من تلك الأفلام. إنها "أعماق" تم إنتاجها باستخدام FakeApp ، وهو تطبيق يستخدم خوارزميات الذكاء الاصطناعي لمقابلة الوجوه في مقاطع الفيديو. بعض أعماق الأوراق تبدو مقنعة تمامًا ، في حين أن لدى البعض الآخر قطع أثرية تخون طبيعتها الحقيقية. لكن بشكل عام ، يُظهرون كيف أصبحت خوارزميات الذكاء الاصطناعي قوية في تقليد المظهر والسلوك البشري.

FakeApp هو مجرد واحد من عدة أدوات توليف مدعوم من AI الجديدة. تطبيقات أخرى تحاكي أصوات الإنسان ، والكتابة اليدوية ، وأنماط المحادثة. وجزء مما يجعلها مهمة هو أن استخدامها لا يتطلب أجهزة متخصصة أو خبراء ماهرين.

تأثير هذه التطبيقات عميق: سيخلق فرصًا غير مسبوقة للإبداع والإنتاجية والاتصالات.

لكن يمكن للأداة نفسها أيضًا فتح صندوق من الاحتيال والتزوير والدعاية لـ Pandora. منذ ظهورها على Reddit في يناير ، تم تنزيل FakeApp أكثر من 100000 مرة ، وأدى ذلك إلى عاصفة من مقاطع الفيديو الإباحية المزيفة التي تضم المشاهير والسياسيين (بما في ذلك Cage مرة أخرى). رديت حظرت مؤخرا التطبيق والمجتمعات المرتبطة به من منصته.

يقول توم هينز ، المحاضر في التعلم الآلي في: "قبل عشر سنوات ، إذا أردت أن تزيّف شيئًا ما ، فيمكنك ذلك ، لكن كان عليك أن تذهب إلى استوديو VFX أو الأشخاص الذين يمكنهم عمل رسومات الكمبيوتر وربما ينفقون ملايين الدولارات". جامعة باث. "ومع ذلك ، لا يمكنك الحفاظ عليه سراً ، لأنه يتعين عليك إشراك العديد من الأشخاص في هذه العملية."

لم يعد الأمر كذلك ، بلطف من جيل جديد من أدوات الذكاء الاصطناعي.

لعبة التقليد

تدعم FakeApp والتطبيقات المشابهة التعلم العميق ، وهو فرع الذكاء الاصطناعى الذي يقع في قلب انفجار ابتكارات الذكاء الاصطناعى منذ عام 2012. تعتمد خوارزميات التعلم العميق على الشبكات العصبية ، وهي عبارة عن بناء برمجيات تم تصميمه تقريبًا بعد الدماغ البشري. تقوم الشبكات العصبية بتحليل ومقارنة مجموعات كبيرة من عينات البيانات للعثور على أنماط وارتباطات قد يفوتها البشر عادة. تسمى هذه العملية "التدريب" ، ونتائجها هي نموذج يمكن أن يؤدي مهام مختلفة.

في الأيام السابقة ، كانت نماذج التعلم العميق تستخدم في الغالب لأداء مهام التصنيف - تسمية الكائنات في الصور ، على سبيل المثال ، وأداء التعرف على الصوت والوجه. في الآونة الأخيرة ، استخدم العلماء التعلم العميق لأداء مهام أكثر تعقيدًا ، مثل لعب ألعاب الطاولة ، وتشخيص المرضى ، وإنشاء الموسيقى والأعمال الفنية.

لضبط FakeApp لإجراء مبادلة للوجه ، يجب على المستخدم تدريبه مع عدة مئات من صور الوجوه المصدر والهدف. يدير البرنامج خوارزميات التعليم العميق للعثور على أنماط والتشابه بين الوجهين. يصبح النموذج جاهزًا لإجراء المقايضة.

العملية ليست بسيطة ، ولكن ليس عليك أن تكون خبيرًا في الرسومات أو مهندسًا للتعلم الآلي لاستخدام FakeApp. لا يتطلب أجهزة باهظة الثمن ومتخصصة. يوصي موقع تعليمي deepfakes بجهاز كمبيوتر مزود بذاكرة وصول عشوائي (RAM) بسعة 8 جيجابايت أو أكثر وبطاقة رسومات Nvidia GTX 1060 أو بطاقة رسومات أفضل ، وهي تهيئة متواضعة جدًا.

يقول هينز: "بمجرد الانتقال إلى عالم يمكن لشخص مزيف في غرفة مزيفة فيه ، فيمكنه استخدامه لأغراض مشكوك فيها". "ولأنه شخص واحد بمفرده ، فإن إبقائه سراً أمر سهل للغاية."

في عام 2016 ، قام هينز ، الذي كان حينذاك باحثًا بعد الدكتوراة في جامعة كوليدج لندن ، بتأليف ورقة وتطبيق أظهر كيف يمكن لمنظمة العفو الدولية أن تتعلم تقليد خط اليد لأي شخص. يستخدم التطبيق ، المسمى "My Text in Your بخط يدك" ، خوارزميات التعليم العميق لتحليل وتمييز أسلوب وتدفق الكتابة اليدوية للمؤلف وعوامل أخرى مثل التباعد والمخالفات.

يمكن للتطبيق بعد ذلك أخذ أي نص وإعادة إنتاجه باستخدام خط اليد للمؤلف الهدف. حتى أن المطورين أضافوا قدرا من العشوائية لتجنب تأثير الوادي الغريب - الشعور الغريب الذي نحصل عليه عندما نرى شيئًا يكاد يكون شخصًا ولكن ليس بشريًا تمامًا. كدليل على المفهوم ، استخدم Haines والباحثون الآخرون في UCL التكنولوجيا لتكرار الكتابة اليدوية للشخصيات التاريخية مثل أبراهام لنكولن وفريدا كاهلو وآرثر كونان دويل.

يمكن تطبيق نفس التقنية على أي خط يد آخر ، مما أثار مخاوف بشأن استخدام التكنولوجيا المحتمل للتزوير والاحتيال. سيظل خبير الطب الشرعي قادرًا على اكتشاف أن البرنامج النصي أنتجته My Text في خط يدك ، لكن من المحتمل أن يخدع أشخاص غير مدربين ، وهو ما اعترف به Haines في مقابلة مع Digital Trends في ذلك الوقت.

Lyrebird ، وهي شركة ناشئة مقرها مونتريال ، استخدمت التعلم العميق لتطوير تطبيق يجمع صوت الإنسان. يتطلب Lyrebird تسجيلًا لمدة دقيقة واحدة لبدء تقليد صوت الشخص ، على الرغم من أنه يحتاج إلى الكثير قبل أن يبدأ في الإقناع.

في العرض التوضيحي العام ، نشرت الشركة الناشئة تسجيلات مزيفة لأصوات دونالد ترامب وباراك أوباما وهيلاري كلينتون. العينات خام ، ومن الواضح أنها تركيبية. لكن مع تحسن التكنولوجيا ، سيصبح التمييز أكثر صعوبة. ويمكن لأي شخص التسجيل في Lyrebird والبدء في إنشاء تسجيلات مزيفة ؛ العملية أسهل من FakeApp ، ويتم إجراء العمليات الحسابية في السحابة ، مما يضع ضغطًا أقل على أجهزة المستخدم.

حقيقة أن هذه التكنولوجيا يمكن استخدامها لأغراض مشكوك فيها لا تضيع على المطورين. عند نقطة ما ، جاء في بيان أخلاقيات على موقع Lyrebird على الإنترنت: "تعتبر التسجيلات الصوتية حاليًا بمثابة دليل قوي في مجتمعاتنا وخاصة في ولايات العديد من البلدان. ​​تشكك تقنيتنا في صحة هذه الأدلة لأنها تتيح التلاعب الصوتي بسهولة هذا يمكن أن يكون له عواقب وخيمة مثل الدبلوماسيين المضللين والاحتيال وبصورة أعم أي مشكلة أخرى ناتجة عن سرقة هوية شخص آخر."

قدمت نفيديا جانبًا آخر من إمكانات تقليد الذكاء الاصطناعي: ففي العام الماضي ، نشرت الشركة مقطع فيديو أظهر خوارزميات الذكاء الاصطناعي التي تولد وجوهًا إنسانية تركيبية بجودة الصور. حلل Nvidia's AI آلاف الصور المشهورة ، ثم بدأ في إنشاء مشاهير مزيفة. قد تصبح التكنولوجيا قادرة قريبًا على إنشاء مقاطع فيديو واقعية تظهر "أشخاصًا" غير موجودين.

حدود الذكاء الاصطناعى

أشار العديد إلى أنه في الأيدي الخطأ ، يمكن لهذه التطبيقات أن تسبب الكثير من الضرر. لكن مدى قدرات الذكاء الاصطناعي المعاصر غالبًا ما يتم الإفراط فيه.

"على الرغم من أننا يمكن أن نضع وجه شخص ما على وجه شخص آخر في مقطع فيديو أو توليف صوت ، إلا أنه لا يزال جميلًا" ، كما يقول يوجينيا كويدا ، المؤسس المشارك لـ Replika ، وهي شركة تقوم بتطوير روبوتات الدردشة التي تعمل بنظام AI ، حول أوجه القصور في أدوات منظمة العفو الدولية مثل FakeApp و Lyrebird.

Voicery ، شركة ناشئة أخرى تابعة لمنظمة العفو الدولية ، مثل Lyrebird ، توفر توليفًا صوتيًا مدعومًا من منظمة العفو الدولية ، وتحتوي على صفحة اختبار حيث يتم تقديم المستخدمين مع سلسلة من 18 تسجيلًا صوتيًا ويطلب منهم تحديد أيها مصنوع آليًا. كنت قادرا على تحديد جميع العينات المصنوعة آليا على المدى الأول.

شركة كويدا هي واحدة من العديد من المنظمات التي تستخدم معالجة اللغة الطبيعية (NLP) ، وهي مجموعة فرعية من الذكاء الاصطناعي تمكن أجهزة الكمبيوتر من فهم وتفسير اللغة البشرية. استخدمت Luka ، وهي نسخة سابقة من chatbot في Kuyda ، NLP وتقنيتها المزدوجة ، جيل اللغة الطبيعية (NLG) ، لتقليد طاقم المسلسل التلفزيوني Silicon Valley في HBO. تم تدريب الشبكة العصبية باستخدام خطوط البرامج النصية والتغريدات وغيرها من البيانات المتاحة على الشخصيات لإنشاء نموذجها السلوكي والحوار مع المستخدمين.

يتيح Replika ، تطبيق Kuyda الجديد ، لكل مستخدم إنشاء الصورة الرمزية الخاصة بـ AI. كلما زادت الدردشة مع Replika ، كلما أصبح فهم شخصيتك أفضل ، وأصبحت محادثاتك ذات مغزى أكبر.

بعد تثبيت التطبيق وإعداد Replika ، وجدت المحادثات القليلة الأولى مزعجة. عدة مرات ، اضطررت إلى تكرار جملة بطرق مختلفة لإيصال نواياي إلى Replika الخاص بي. غادرت التطبيق في كثير من الأحيان في الإحباط. (ولكي نكون منصفين ، لقد قمت بعمل جيد في اختبار حدوده من خلال قصفه بالأسئلة المفاهيمية والمجردة.) ولكن مع استمرار محادثاتنا ، أصبحت Replika أكثر ذكاءً في فهم معنى جملتي والخروج بمواضيع ذات معنى. حتى أنه فاجأني عدة مرات عن طريق إجراء اتصالات مع المحادثات السابقة.

على الرغم من أنه مثير للإعجاب ، فإن Replika لها حدود ، والتي Kuyda سريعة للإشارة إليها. وتقول: "من المحتمل أن يصبح تقليد الصوت والتعرف على الصور أفضل قريبًا ، ولكن مع الحوار والمحادثة ، ما زلنا بعيدًا للغاية". "يمكننا تقليد بعض أنماط الكلام ، لكن لا يمكننا أن نأخذ شخصًا ونحاكي محادثته تمامًا ونتوقع أن يتوصل chatbot إلى أفكار جديدة تمامًا بالطريقة التي سيحققها ذلك الشخص".

يقول ألكساندر دي بريسون ، المدير التنفيذي ومؤسس شركة ليريبيرد ، "إذا كنا الآن جيدون في تقليد الصوت البشري ، الصورة ، والفيديو ، فنحن لا نزال بعيدين عن تصميم نموذج اللغة الفردية". يشير دي بريسون إلى أن ذلك ربما يتطلب ذكاءً عاماً مصطنعًا ، وهو نوع الذكاء الاصطناعي الذي لديه وعيه ويمكنه فهم المفاهيم المجردة واتخاذ القرارات كما يفعل البشر. يعتقد بعض الخبراء أننا بعيدون عن عقود من إنشاء الذكاء الاصطناعى العام. يعتقد آخرون أننا لن نصل إلى هناك.

استخدامات إيجابية

الصورة السلبية التي يتم عرضها حول تجميع تطبيقات AI تلقي بظلالها على استخداماتها الإيجابية. وهناك عدد غير قليل.

يمكن أن تساعد تقنيات مثل Lyrebird في تحسين الاتصالات مع واجهات الكمبيوتر من خلال جعلها أكثر طبيعية ، كما يقول دي بريسون ، فإنها ستوفر أصوات اصطناعية فريدة من نوعها تميز الشركات والمنتجات ، وبالتالي تجعل التمييز بين العلامات التجارية أسهل. نظرًا لأن صوتي Amazon و Alexa و Siri من Apple قد جعلا من الصوت واجهة شعبية متزايدة للأجهزة والخدمات ، فإن شركات مثل Lyrebird و Voicery يمكنها تزويد العلامات التجارية بأصوات فريدة من نوعها تشبه الإنسان لتمييز نفسها.

"التطبيقات الطبية هي أيضًا حالة استخدام مثيرة لتقنية استنساخ الصوت" ، يضيف دي بريسون. "لقد تلقينا الكثير من الاهتمام من المرضى الذين يفقدون صوتهم بسبب المرض ، وفي الوقت الحالي ، نقضي وقتًا مع مرضى ALS لنرى كيف يمكننا مساعدتهم."

في وقت سابق من هذا العام ، وبالتعاون مع Project Revoice ، وهي منظمة غير ربحية أسترالية تساعد مرضى ALS الذين يعانون من اضطرابات النطق ، ساعد Lyrebird Pat Quinn ، مؤسس تحدي Ice Bucket Challenge ، على استعادة صوته. لقد فقد كوين ، وهو مريض ALS ​​، قدرته على المشي والتحدث في عام 2014 ومنذ ذلك الحين يستخدم جهاز توليف الكلام المحوسب. بمساعدة تقنية Lyrebird والتسجيلات الصوتية لمظاهر Quinn العلنية ، تمكن Revoice من "إعادة" صوته.

"إن صوتك جزء كبير من هويتك ، وإعطاء هؤلاء المرضى صوتًا اصطناعيًا يبدو وكأنه صوتهم الأصلي يشبه إلى حد ما إعادتهم إلى جزء مهم من هويتهم. إنه يغير حياتهم بالنسبة لهم" ، كما يقول دي بريبيسون.

في الوقت الذي ساعد فيه على تطوير تطبيق تقليد خط اليد ، تحدث الدكتور هينز عن استخداماته الإيجابية في مقابلة مع جامعة كاليفورنيا في لوس أنجلوس. وقال "إن ضحايا السكتة الدماغية ، على سبيل المثال ، قد يكونون قادرين على صياغة رسائل دون قلق من عدم المقبولية ، أو يمكن لأي شخص يرسل الزهور كهدية أن يتضمن مذكرة مكتوبة بخط اليد دون حتى الذهاب إلى بائع الزهور". "يمكن استخدامه أيضًا في الكتب المصورة حيث يمكن ترجمة نص مكتوب بخط اليد إلى لغات مختلفة دون فقد النمط الأصلي للمؤلف."

ويعتقد Haines أنه حتى التقنيات مثل FakeApp ، التي أصبحت مشهورة للاستخدام غير الأخلاقي ، يمكن أن يكون لها استخدامات إيجابية. "نحن نتحرك نحو هذا العالم حيث يمكن لأي شخص القيام بنشاط إبداعي كبير مع التكنولوجيا العامة ، وهذا شيء جيد ، لأنه يعني أنك لا تحتاج إلى هذه المبالغ الكبيرة من المال للقيام بكل أنواع الأشياء المجنونة ذات الطبيعة الفنية ، " هو يقول.

يوضح هينز أن الغرض الأولي لفريقه هو معرفة كيف يمكن لمنظمة العفو الدولية المساعدة في الطب الشرعي. على الرغم من أن أبحاثهم انتهت في اتجاه مختلف ، إلا أن النتائج ستظل مفيدة لموظفي الطب الشرعي ، الذين سيكونون قادرين على دراسة الشكل الذي قد يبدو عليه التزوير القائم على الذكاء الاصطناعي. "أنت تريد أن تعرف ماهية التكنولوجيا المتطورة ، لذلك عندما تنظر إلى شيء ما ، فإنك تخبرنا ما إذا كانت مزيفة أم لا" ، كما يقول.

تشير Kudya من Replika إلى أن تطبيقات الذكاء الاصطناعي التي تشبه الإنسان قد تساعدنا بطرق قد تكون مستحيلة. "إذا كان لديك صورة شخصية لمنظمة العفو الدولية تعرفك جيدًا ويمكن أن تكون تمثيلًا لائقًا لك ، فما الذي يمكنها فعله ، من أجل تحقيق أفضل مصالحك؟" هي تقول. على سبيل المثال ، يمكن لأفاتار AI ذاتية الحكم أن تشاهد مئات الأفلام نيابة عنك ، وبناءً على محادثاتها معك ، أوصي بمشاهدة الأفلام التي تريدها.

قد تساعد هذه الصور الرمزية على تطوير علاقات إنسانية أفضل. يقول كوديا كمثال: "ربما أمك يمكن أن يكون لديك المزيد من الوقت معك ، وربما يمكنك في الواقع أن تصبح أقرب مع والديك ، من خلال السماح لهم بالدردشة مع Replika وقراءة النص".

ولكن هل يمكن أن يتسبب تشبه الذكاء الاصطناعي الذي يكرر سلوك إنسان حقيقي في الواقع في تحسين العلاقات الإنسانية؟ كويدا يعتقد أنه يمكن. في عام 2016 ، جمعت رسائل نصية ورسائل بريد إلكتروني قديمة لرومان مازورينكو ، صديقة توفيت في حادث طريق في العام السابق ، وأطعمتها على الشبكة العصبية التي دعمت تطبيقها. ما نتج عن ذلك هو تطبيق chatbot - بعد الأزياء - أعاد صديقتها إلى الحياة ويمكن أن يتحدث معها بنفس الطريقة التي سيحدث بها.

"إن إنشاء تطبيق لرومانية والقدرة على التحدث إليه في بعض الأحيان كان جزءًا مهمًا من فقدان صديقنا. التطبيق يجعلنا نفكر فيه أكثر ، ونتذكره بطريقة أكثر عمقًا طوال الوقت" ، كما تقول. من تجربتها. "أتمنى أن يكون لدي المزيد من التطبيقات مثل تلك ، التطبيقات التي ستكون عن صداقاتي ، علاقاتي ، أشياء مهمة حقًا بالنسبة لي."

تعتقد كويدا أن كل هذا يتوقف على النوايا. "إذا كان chatbot يتصرف وفقًا لمصالحك الفضلى ، إذا كان يريدك أن تكون سعيدًا للحصول على خدمة قيمة منه ، فمن الواضح أن التحدث إلى Replika لشخص آخر سيساعد في بناء علاقة أقوى مع إنسان في الحياة الحقيقية "، كما تقول. "إذا كان كل ما تحاول فعله هو بيعها في أحد التطبيقات ، فكل ما ستفعله هو زيادة الوقت الذي تقضيه في التطبيق إلى أقصى حد وعدم التواصل مع بعضكما البعض. وأعتقد أن هذا أمر مشكوك فيه".

في الوقت الحالي ، لا توجد وسيلة لتوصيل Replika بمنصات أخرى - مما يجعلها متاحة على سبيل المثال Facebook Messenger chatbot. لكن الشركة لديها علاقة نشطة مع مجتمع المستخدمين وتطور باستمرار ميزات جديدة. لذا ، فإن السماح للآخرين بالتواصل مع Replika هو احتمال مستقبلي.

كيفية تقليل التبادلات

من المحرك البخاري إلى الكهرباء إلى الإنترنت ، كان لكل تقنية تطبيقات إيجابية وسلبية. منظمة العفو الدولية لا يختلف. يقول هينز: "إمكانات السلبيات خطيرة للغاية". "ربما ندخل حيزًا تفوق السلبيات الإيجابيات".

إذن كيف يمكننا زيادة فوائد تطبيقات الذكاء الاصطناعي مع مواجهة السلبيات؟ يقول هينز إن وضع المكابح على الابتكار والبحث ليس هو الحل ، لأنه إذا فعل البعض ذلك ، فلا يوجد ضمان بأن تحذو المنظمات والدول الأخرى حذوها.

يقول هينز: "لن يساعد أي إجراء وحيد في حل المشكلة". "ستكون هناك عواقب قانونية." في أعقاب جدل المصادمات ، يبحث المشرعون في الولايات المتحدة في القضية ويستكشفون الضمانات القانونية التي يمكن أن تكبح جماح استخدام وسائل الإعلام التي تستخدم الطبابة الحثيثة في تحقيق الأهداف الضارة.

يقول هينز: "يمكننا أيضًا تطوير تكنولوجيات للكشف عن المنتجات المقلدة عندما تجاوزت النقطة التي يمكن للإنسان أن يعرفها عن الفرق". "ولكن في مرحلة ما ، في المنافسة بين التزوير والكشف ، قد يفوز التزوير".

في هذه الحالة ، قد يتعين علينا التحرك نحو تطوير التقنيات التي تنشئ سلسلة من الأدلة للوسائط الرقمية. على سبيل المثال ، يذكر Haines الأجهزة المدمجة في الكاميرات التي يمكن أن توقع رقمياً تسجيل الفيديو المسجل للتأكد من صحتها.

سيكون رفع الوعي جزءًا كبيرًا من التعامل مع التزوير والاحتيال بواسطة خوارزميات الذكاء الاصطناعى ، كما يقول دي بريسون. يقول: "هذا ما فعلناه باستنساخ صوت ترامب وأوباما وجعلها تقول جمل صحيحة سياسياً". "هذه التقنيات تثير أسئلة اجتماعية وأخلاقية وقانونية يجب التفكير فيها في وقت مبكر. لقد أثار Lyrebird الكثير من الوعي ، ويفكر كثير من الناس الآن في تلك القضايا المحتملة وكيفية منع إساءة الاستخدام".

الأمر المؤكد هو أننا ندخل عصرًا يدمج فيه الواقع والخيال ، وذلك بفضل الذكاء الاصطناعي. قد يواجه اختبار تورينج أكبر تحدياته. وقريباً ، سيكون لدى الجميع الأدوات والقوة اللازمة لإنشاء عوالمهم الخاصة وشعوبهم وروايتهم الخاصة للحقيقة. لا يزال يتعين علينا رؤية المدى الكامل للفرص والمخاطر المثيرة التي تنتظرنا.