التكنولوجيا: الابتكار ، منظمة العفو الدولية ، والأخلاق

تناولت بعض جلساتي المفضلة في مؤتمر Techonomy في وقت سابق من هذا الشهر الأخلاقيات والقيم والابتكار وكيف بدأ الذكاء الاصطناعي في هذه المجالات.

القيم الإنسانية لعصر تكنولوجي

بدأ مؤسس التقنية ديفيد كيركباتريك المؤتمر بحديث عن التركيز على القيم الإنسانية للتكنولوجيا. كانت أول محادثة كبيرة حول "القيم الإنسانية" مع جولي حنا ، الرئيسة التنفيذية لكيفا ، التي تحدثت عن التكنولوجيا كقوة ديمقراطية ، ولاحظت أن معظم العالم يعيش على أقل من دولارين في اليوم. وقالت إن "أكبر شكل من أشكال العدالة هو الوصول العادل".

قال القس مايكل سي. مكفارلاند ، أمين صندوق مقاطعة يسوع في الولايات المتحدة الأمريكية الشمالية ، إنه يتعين علينا أن نسأل أنفسنا أين هي العدالة ، من حيث طريقة استخدام التكنولوجيا ، والتفكير في الافتراضات المضمنة في التكنولوجيا. إنه قلق من أن تكنولوجيا مكان العمل ، والتي يمكن أن تنتج قدرًا أكبر من الكفاءة والإنتاجية ، يتم نشرها في كثير من الأحيان دون التفكير في التأثير على العمال ، الذين يعانون أحيانًا من تأثيرات مدمرة. وحث الجمهور على البدء بالتفكير في تجربة العامل.

لاحظت إيريكا كوتشي ، المديرة التنفيذية للابتكار والمؤسس المشارك لليونيسيف للابتكار ، أنه منذ سبع سنوات ، لم يكن هناك حل تكنولوجي جيد يستهدف أشد الفقراء فقراً ، وكانت الرسالة المشتركة هي القاسم المشترك الوحيد. ركزت مجموعتها على بناء حلولها الخاصة باستخدام الرسائل النصية ، ولاحظت أنه على الرغم من وجود هواتف أندرويد غير مكلفة للغاية ، فقد تم تصميم نظام التشغيل للأشخاص الذين لديهم خطة بيانات ، وليس لأولئك الذين يعيشون بأقل من دولارين في اليوم. وقالت "إذا كنا سنبني منتجات وخدمات لأشخاص ليسوا نحن ، فنحن بحاجة إلى التفكير في الأمر من وجهة نظرهم".

تحدثت حنا عن "الاختيار الخاطئ بين الهدف والربح ، وبين المهمة والمنتج" ، وقالت إن الثقافات التي تقودها البعثة هي أماكن أفضل للعمل ، وتولد ولاء أكبر ، وتساعد في بناء الشركات الدائمة. قال كوتشي إنه بإمكانك القيام بالأمرين ، وقال إن نموذج العمل الأساسي يجب أن يكون متوافقًا مع المسؤولية الاجتماعية ، وهو ما لا ينبغي أن يكون شيئًا يتم تنفيذه على الجانب الآخر.

تحدث McFarland عن التركيز ليس فقط على المساهمين ، ولكن على جميع أصحاب المصلحة في الشركة ، واستخدم كمثال AT & T's Bell Labs قبل تفكك الشركة. إنه قلق بشأن الفشل في الاستثمار في البحث والتطوير على المدى الطويل ، وقال "علينا تغيير الثقافة حول طريقة تفكيرنا في العمل وما يعنيه النجاح".

مكتبة

لقد تأثرت في محادثة لاحقة أجراها توني ماركس ، رئيس مكتبة نيويورك العامة ، الذي قال إنه ، على عكس الافتراض بأن بعض المكتبات تختفي ، رأى أن التكنولوجيا الجديدة تقدم أكبر فرصة في التاريخ لما تقوم به المكتبات. لقد وقفت دائما - مساعدة الناس على الوصول إلى المعلومات.

وأشار إلى أنه في الماضي ، كانت المكتبات تعيقها القيود المادية والمالية لحمل الناس على المجموعات ، لكنه قال إن هذا الأمر يتغير.

وقال إن المكتبات يمكن أن يكون لها تأثير بثلاث طرق كبيرة. الأول هو فقط عن طريق توصيل الأشخاص ، وأشار إلى أن ثلث الأمريكيين ليس لديهم اتصال بالإنترنت في المنزل ، ولكن يمكن للمكتبات أيضًا أن تعمل على تدريب الناس على كيفية استخدام أجهزة الكمبيوتر ، وكذلك كيفية استخدام التعليمات البرمجية.

وقال إنه على الرغم من أن محركات البحث الحالية "لا تصدق" ، إلا أنها تعاني من قيود ، وأشار إلى أن الكثير من معلومات الجودة الأساسية التي تنتجها آلاف السنين من الجهد لا تزال غير متوفرة. وقال إن رؤيته هي تقديم رعاة المكتبة "كل كتاب وكل صورة وكل وثيقة وكل أرشيف في أي مكان في العالم مجانًا".

وقال ماركس إن كل هذا يعود إلى الفكرة القديمة للمكتبة كمؤسسة ، وحثنا على تخيل ما إذا كانت كل المواهب في العالم لديها القدرة على التعلم والإبداع والابتكار مهما اختاروا. وقال "لدينا الأدوات اللازمة لجعلها لا يمكن وقفها". "دعنا نقوم به."

الآلهة في صناديق: الخوارزميات سبحانه وتعالى والقيم الخفية

قال أورين بيمان ، المؤسس المشارك والرئيس التنفيذي لشركة Magisto ، التي تستخدم الذكاء الاصطناعي لتحرير مقاطع الفيديو ، إن "أجهزة الكمبيوتر أصبحت صناديق سوداء أكثر فأكثر" ، باستخدام خوارزميات تم إنشاؤها بواسطة شبكات عصبية تتفوق على أفضل الخوارزميات التي صممها المبرمجون. على الرغم من أن هذه الخوارزميات يمكنها اتخاذ قرارات أفضل بكثير من البشر ، لا أحد يفهم تمامًا كيف يفعلون ذلك.

تحدثت Vivienne Ming ، المؤسس المشارك والرئيس التنفيذي لشركة Socos ، التي تبيع البرامج التي تساعد الأطفال على التعلم عن طريق إرسال توصية واحدة يوميًا إلى والديهم ، عن إنشاء خوارزميات ذكية. قالت إن الكثير من العمل مع الشبكات العصبية العميقة يعتمد على مجموعات التدريب ، وتحدثت عن خوارزمية التعرف على الوجوه التي لم تتعرف على الوجوه السوداء بسبب وجود تحيز متأصل في التدريب. "أجهزة الكمبيوتر مثل الناس" ، قالت. "هذا يعتمد على كيفية رفعهم لهم."

قال رئيس Yahoo Yahoo Ron Brachman إنه على الرغم من أننا نستخدم مصطلحات مجسمة لوصف الآلات ، فلا يزال هناك فرق جوهري بين البشر وأجهزة الكمبيوتر في الوقت الحالي. يتخذ الأشخاص القرارات بناءً على احتياجاتهم ورغباتهم ، وهو أمر مختلف تمامًا عن الطريقة التي تتخذ بها النظم الحاسوبية القرارات في هذه الأيام.

أوضح بيمان كيف يرتبط كل شيء في "هذه الصناديق السوداء" ، والتغييرات الصغيرة في المدخلات يمكن أن تحدث اختلافات كبيرة وأحياناً فوضوية في النتائج ، مثل عندما تكون مقاطع الفيديو فيروسية. قال إن هذا يجعل الأمور غير متوقعة ، ومن الصعب تتبع الأشياء إلى ما حدث في البداية. لاحظ براخمان أنه ليس لدينا طريقة للسيطرة على ما يتعلمه الأطفال ، وينطبق الشيء نفسه على الآليات الحسابية.

آلات الأعمال الذكية

استمرت مناقشة الذكاء الاصطناعى والقضايا الأخلاقية التي نشأت في لوحة أخرى مع قادة بعض شركات البرمجيات الأكثر تخصصًا. قال Babak Hodjat ، المؤسس المشارك وكبير علماء شركة Sentient Technologies للتعلم الآلي ، إن مسألة الأخلاقيات تمثل بعض الهاء عندما يتعلق الأمر بـ AI ، وأن الأخلاقيات تؤثر أيضًا على جميع أنواع التقنيات الأخرى ، بدءًا من الهواتف الذكية إلى درجات FICO.

أشار جورج جون ، رئيس ومؤسس شركة روكت فيول للإعلانات البرمجية ، إلى مزايا التكنولوجيا ، وقال "إذا كانت منظمة العفو الدولية تعمل حقًا ، فيجب على الناس العودة إلى منازلهم في وقت مبكر". تحدث عن الحاجة إلى مهارات إدارية جديدة ، وإدارة كل من الأشخاص والأجهزة الذكية. تحدث أيضًا عن البحث عن تطبيقات الذكاء الاصطناعي التي لا تناسب الشركات الكبرى فحسب ، بل يمكن أن تفيد الأفراد أيضًا.

قال Jag Duggal ، SVP لإدارة المنتجات لشركة Quantcast لقياس الجمهور ، إن هذه أدوات مصممة لجعلنا أكثر إنتاجية ، وإنجاز المزيد من الأشياء ، وزيادة قدرتنا. وقال إن هناك عدد لا يحصى من الابتكار والإنتاجية التي يمكن أن تنجم عن ذلك ، وقال إنه على الرغم من وجود مخاوف بشأن التكنولوجيا جيدة للغاية ، إلا أنه أكثر قلقًا بشأن حدود التكنولوجيا.

كان يشعر بالقلق بشكل خاص بشأن الحوافز ، وما يحدث عندما تنتهي خوارزميات التعلم الآلي إلى اتباع الحوافز الخاطئة. على سبيل المثال ، أشار إلى أنه في سوق وضع الإعلانات عبر الإنترنت ، كان بائعو التجارة الإلكترونية يمنحون الائتمان لآخر إعلان شاهده شخص ما قبل تقديم الطلب. ينتج عن هذا استهداف المزيد من الإعلانات بعد أن زار شخص ما بالفعل موقعًا للتجارة الإلكترونية ، وغالبًا ما قرر شخص ما الشراء ؛ بمعنى آخر ، عندما يضيع الإعلان. وقال Quantcast تحاول تقديم أمثلة أفضل.

تحدث جون شتاين ، مؤسس والرئيس التنفيذي لشركة "بترومنت" الاستثمارية التي تتخذ من منظمة العفو الدولية مقراً لها ، عن الخير الذي يمكن أن تفعله التكنولوجيا ، ووافق على أنه من المهم وضع حوافز واضحة. تحدث عن اتباع المعايير الائتمانية ، مثل التصرف بما يحقق مصلحة العميل الخاص بك ، وقال إن للشفافية دورًا كبيرًا يلعبه ، حتى يتمكن الناس من فهم المواضع التي يمكن أن تحدث فيها النزاعات.

وقال شتاين إن التكنولوجيا ستجعل من الصعب أن تكون مجرماً بمرور الوقت ، لكن دوغال قال إنه أكثر تشككا ، لأن المحتالين لديهم التكنولوجيا كذلك. ومع ذلك ، فهو معجب بإمكانيات التكنولوجيا ، واستشهد بمثال لمشروع من Google حيث يمكن لمنظمة العفو الدولية التعرف على أنواع السرطان في الشامات الموجودة على الجلد. وقال إنه قلق بشأن "اختلال" القضية من قبل معارضي التكنولوجيا.