التقنية: كيفية إصلاح الأخطاء في google و facebook

ربما كان الموضوع الأكثر إثارة للدهشة في Techonomy هذا العام هو مدى غضب الكثير من المتحدثين على Facebook و Google و Twitter ، حيث تركز النقد على أسلوبهم في الخصوصية وخصوصًا الدور المحتمل الذي لعبوه في تمكين القرصنة الروسية لانتخابات عام 2016.

دفعت مجموعة كبيرة ومتنوعة من المتحدثين لأنواع مختلفة من تنظيم "عمالقة الإنترنت" ، ولم يكن أي شخص من أي من الشركات المذكورة أعلاه في المؤتمر لتوفير وجهة نظر بديلة. كان هذا مختلفًا تمامًا عن مؤتمر العام الماضي ، عندما قال مارك زوكربيرج ، الرئيس التنفيذي لشركة Facebook ، إن الفكرة القائلة بأن الأخبار المزيفة على Facebook قد أثرت على الانتخابات كانت "فكرة مجنونة للغاية".

منذ ذلك الحين ، كما لاحظ سيمون روس ، أحد مؤسسي شركة Techonomy ، لقد تعلمنا أن "التكنولوجيا تجعل من السهل تقسيمنا كما نجمعنا". حدد ديفيد كيركباتريك ، المؤسس المشارك للمؤتمر ، لهجة المؤتمر ، قائلاً إن "التكنولوجيا هي قوة من أجل الخير ، ولكن فقط إذا كان هدفك جيدًا" ومضى يقول إنه يعتقد أن شركات التكنولوجيا الكبرى تحتاج إلى "استباقية تقاطع "مع الحكومة ، سواء كان يطلق عليه التنظيم أم لا.

السلطة في عالم شبكي ، ذكي بشكل مصطنع

ربما كان المستثمر المشهور روجر ماكنامي من إليفيشن بارتنرز ، وهو مستثمر مبكر في كل من فيسبوك وجوجل ، هو الأكثر سلبية بين جميع المتحدثين. وقال ماكنامي إن هذه الشركات "بدأت في إنقاذ العالم" ، لكن هذا تغير عندما أصبح الإعلان نموذج أعمالهم. وقال إن الهاتف الذكي ، عندما يقترن بالمعلومات الشخصية ، قد أتاح "خلق مستوى من القرصنة لم يسبق له مثيل في وسائل الإعلام".

قال ماكنامي إنه يعتقد أن زوكربيرج كان صادقًا عندما قال إنه لا يعتقد أن مثل هذا القرصنة كان ممكنًا قبل عام ، لكنه قال إن الدور الذي تلعبه Google و Facebook الآن لا يمكن المبالغة فيه. وعلق قائلاً: "يجب أن يكون من الصعب عليهم الآن أن يدركوا أنك قد دمرت الحضارة الغربية".

دانا بويد، البيانات والمجتمع؛ روجر مكنامي ، إليفشن بارتنرز ؛ مارك روتنبرغ ، مركز معلومات الخصوصية الإلكتروني (EPIC) ؛ ستراتفورد شيرمان ، Accompli

جاءت هذه المناقشة في جزء من لوحة حول "السلطة في عالم شبكي ، ذكي مصطنع" تضمنت أيضًا دانة بويد ، وعالمة اجتماعية في Data & Society و Microsoft Research ؛ مارك روتنبرغ ، رئيس مركز معلومات الخصوصية الإلكترونية (EPIC) ؛ وسيط ستراتفورد شيرمان من أكومبل. قال شيرمان إنه على الرغم من أن Facebook و Google بدأتا كمنتديات للخطاب العام ، إلا أنهما "غير منظمين بشكل جذري". مع وجود الذكاء الاصطناعي الذي يمكن أن يؤثر بشكل أساسي على الجنس البشري في الأفق ، قال شيرمان إنه قلق بشأن العواقب غير المقصودة للتطور التكنولوجي الذي رأيناه بالفعل.

قال روتنبرغ إنه في الوقت الذي لا يزال يشعر فيه بالقلق إزاء المخاوف المتعلقة بالخصوصية التقليدية بشأن التعقب والتعريف ، إلا أنه يشعر بالقلق بنفس القدر من قلة المنافسة وعدم وجود الابتكار والمخاطر التي تتعرض لها المؤسسات الديمقراطية. وقال إن عمالقة الإنترنت يتمتعون بقوة هائلة ، وأن البيانات التي بحوزتهم تخلق حاجزًا حقيقيًا للدخول ، لذلك لا توجد منافسة حقيقية. قال روتنبرغ إنه موجود في واشنطن منذ إدارة ريغان ، ولأول مرة "لم تشعر انتخابات العام الماضي بأنها مألوفة".

في جلسة سابقة ، تحدث بويد ، الذي كتب كتابًا بعنوان "معقدة" ، عن صعوبة مواجهة التلاعب على الإنترنت.

لقد تحدثت عن عملية التلاعب المتصاعدة على مدار العشرين عامًا الماضية ، والتي بدأت مع الأطفال الذين يتجولون في أوبرا وتقدّموا إلى "العربات" وإلى أشياء مثل تغيير نتائج البحث لاسم "Santorum". في الآونة الأخيرة ، مع Gamergate ، أصبح عدد أكبر من الشخصيات لاعبين ، بما في ذلك الجهات الحكومية. وقال بويد إن شركات الإنترنت تعتقد أن الذكاء الاصطناعي يمكن أن يحميهم ، لكن المجموعات التي تحاول التلاعب بالنتائج تختبر بالفعل معالجة اللغة الطبيعية ، والأهم من ذلك ، العبث بمصادر البيانات. على سبيل المثال ، يعد حقن البيانات السيئة في نظام ثغرة أمنية جديدة ، من وجهة نظرها. ومع ذلك ، قال بويد إن الإجابة الوحيدة ستكون "بناء الأجسام المضادة التقنية في صناعتنا".

في هذه الجلسة ، قال بويد إن شركات التكنولوجيا تحسب حسابها على عدة جبهات ، وأشار إلى أنه بينما ينظر الجميع إلى روسيا ، هناك العديد من الدول الأخرى التي تتبع إجراءات مماثلة. على سبيل المثال ، تحاول الشركات الصينية التأكد من أنها ستسيطر على الذكاء الاصطناعى ، وقالت إن هذا يمثل تحديًا مختلفًا لأنه لا يتعلق بالمنافسة الصناعية بل التنافس مع الدولة.

وردا على سؤال من شيرمان عما إذا كانت هذه حرب ، قالت بويد إنها تعتقد أنها كذلك ، في حين قالت مكنامي إنها حرب عصابات كلاسيكية حيث استخدم أعداؤنا تقنيتنا ضدنا. وقال مكنامي إن المشكلة ليست في الشبكات الاجتماعية أو البحث ، ولكن في نموذج الإعلان. وقال في المعركة من أجل انتباه الناس ، يتم دفن الجوهر عن طريق الإحساس ، واقتبس القول المأثور القديم "إذا كان ينزف ، فإنه يؤدي".

وأشار شيرمان إلى أن الخوف والغضب أكثر مغناطيسية ، وبالتالي أقل تكلفة بكثير. وقال إنه على الرغم من استخدام الرسائل العضوية للوصول إلى أكثر من 125 مليون شخص ، كان الهدف من الجهد هو تقسيم الإعلانات إلى مجموعات على أساس الاهتمامات المشتركة.

قال روتنبرغ إنه يؤيد جعل الخوارزميات شفافة وتنظم الإعلانات ، لكنه قال إنه يتعين علينا احترام حق الأفراد في التحدث عبر الإنترنت. لكن ماكنامي قال إن "التعديل الأول تم تسليحه" ، وأن المساحات على الإنترنت تختلف اختلافًا جوهريًا عن الساحة العامة.

وصفت بويد ما تسميه "تأثير الطفرة" ، أو بعبارة أخرى أن استفزاز وسائل الإعلام للإبلاغ عن أشياء شنيعة هو الهدف ، لأن هذا يعزز الرسالة الأصلية إلى شريحة الجمهور التي لا تثق في وسائل الإعلام. على سبيل المثال ، تحدث boyd عن Pizzagate. وأشارت إلى أنه قبل الإنترنت ، كانت وسائل الإعلام غالباً ما تستخدم "الصمت الاستراتيجي" لتجنب تغطية أشياء مثل الانتحار ومسيرات كلان لتجنب نشرها.

وافق Rotenberg على أن الكثير من هذا التقليد من الاجتهاد والرقابة قد ضاع ، وقال إن أشياء مثل القسم 230 (التي تقول أن شركات الإنترنت ليست مسؤولة عن أشياء مثل نشرات المستخدمين) جعلت من الصعب على الأخبار التقليدية المنافسة.

وردا على سؤال عن الحلول ، قال ماكنامي إن Facebook هي عبادة وأنه يجب عليها التوقف عن إنكار المشكلة والتعامل معها ، وكذلك البدء في معالجة "إلغاء البرمجة" عن طريق الوصول إلى كل مستخدم من مستخدميها. روتنبرغ روج لفكرة التنظيم. واقترح بويد أننا بحاجة إلى استثمار الأموال في المجتمع ، لإعادة "التواصل" مع أمريكا.

الحكمة مع الهيمنيين الجدد

مارك مهاني ، RBC Capital Markets ؛ ديف مورغان ، سيمولميديا ​​؛ جويس فانس ، جامعة ألاباما ؛ ديفيد كيركباتريك ، علم النفس

في لجنة مبكرة حول "الحساب مع الهيموغاريين الجدد" ، اتفق الجميع تقريبًا مع جويس فانس من جامعة ألاباما ، التي قالت إن التكنولوجيا قد تجاوزت القانون حقًا ، وهي في أمس الحاجة إلى اللحاق بالركب. لكن فانس حذر من أن هناك أيضا خطر من الإجابات السياسية "الاحذية".

قال ديف مورغان من Simulmedia "سيكون هناك تنظيم" ، على الرغم من أنه قال إنه من المحتمل أن تكون الشركات الكبرى قادرة على تجنب الكثير من تأثيرها.

أشار مورغان إلى أن تاريخ صناعة الإعلام يوفر توازنا لما نراه الآن ، لأن الصحف كانت ستعتبر نفسها شركات طباعة ، وشاهدت شركات البث المبكر نفسها كشركات تقنية. كل هذه تمكن من توفير اتصال المستهلك ، وهو ما تفعله Google و Facebook بوضوح. ظهرت الكثير من حالات مكافحة الاحتكار نتيجة لهذه القوة الإعلامية المركزة ، وتمكنت الحكومة من كبح جماحها. أحد الاختلافات الكبيرة اليوم هو أن التقنيات الأخرى تتطلب وجود صلة جغرافية لا تحتاج إليها شركات الإنترنت.

أشار فانس إلى أن مجلس الشيوخ يدرس الآن مشروع قانون يتطلب من هذه الشركات الحفاظ على تاريخ الإعلان ، وكذلك توضيح من يدفع ثمن الإعلانات السياسية. لكن مورغان أشار إلى أن هذه هي الآن شركات عالمية ذات نطاق أوسع. ولدى سؤاله عن لوائح الخصوصية الخاصة بالناتج القومي الإجمالي الأوروبي ، قال فانس إن الولايات المتحدة ربما تكون قد تخلت عن القيادة للاتحاد الأوروبي في هذا المجال. وقالت إنها لا تعتقد أن الشركات الأمريكية ستكون قادرة على الامتثال بشكل مختلف في مناطق جغرافية مختلفة ، وبالتالي ستلتزم الشركات افتراضيًا باللوائح الأوروبية.

قال مارك ماهاني من RBC Capital Markets إن الشركات تخضع بالفعل للوائح التنظيمية ، خاصة في الاتحاد الأوروبي ، حيث تخضع Google بشكل خاص للتدقيق لتجميع خدماتها أو الترويج لها جنبًا إلى جنب مع نتائج البحث أو مع Android. وقال كيركباتريك إنه يعتقد أن تسوية مكافحة الاحتكار ساعدت مايكروسوفت بالفعل ، لكن ماهاني قال إنه ليس المنظمون هم الذين أوقفوا مايكروسوفت ، بل المنافسة.

هل يمكن للتكنولوجيا والحكومة إنقاذ الديمقراطية؟

تيم هوانج ، FiscalNote ؛ ميني انجرسول ، رمز لأمريكا ؛ مارك روتنبرغ ، مركز معلومات الخصوصية الإلكتروني ؛ مولي تيرنر ، كلية إدارة الأعمال في جامعة كاليفورنيا في بيركلي هاس ؛ جون فاين ، مجلة المؤتمر الوطني العراقي. لورانس نوردن ، كلية الحقوق بجامعة نيويورك

ظهر موضوع مشابه في مائدة إفطار مستديرة ، بعنوان "هل يمكن للتكنولوجيا والحكومة أن تنقذ الديمقراطية؟" ، والتي طلب فيها المشرف جون فاين من مجلة إنك الحلول. المائدة المستديرة لم تأت حقا مع أي ، ولكن.

وقال هوانج إن المشكلة ليست في المنصات التقنية ، بل الغضب الذي يشعر به الناس كنتيجة للانفصال عن الاقتصاد.

قال لورانس نوردن ، من مركز برينان في كلية الحقوق بجامعة نيويورك ، إن القوانين التي تتطلب المزيد من الإفصاح عن الإعلانات السياسية هي إجابة سهلة ، لكن للأسف ، فإن المشكلة الكبيرة هي "المشاركات المظلمة" ، أو المشاركات غير المعروفة الأصل. وقال إنه في هذا الصدد ، فإن الإنترنت يشبه ميدان المدينة.

لكن روتنبرغ قال إن الأمر عكس ذلك ، وأن الإنترنت يشبه مدينة الشركة ، حيث تحدد المنصات القواعد وتقرر ما تراه. ميني إنجرسول من Code for America سأل عما إذا كانت المشكلة تكمن في التدخل الأجنبي ، أم جوجل تتحكم في ما نقوله. وقالت إن المنظمين بحاجة إلى فهم القضايا بشكل أفضل.

قال مولي تيرنر من كلية إدارة الأعمال بجامعة كاليفورنيا في بيركلي هاس أن الإنترنت أصبح أعظم وسيلة للتعبير ، لكنه قلق من أنه يقوض الخطاب المدني. من ناحية أخرى ، تشعر بالقلق إزاء متطلبات الأنظمة الأساسية لإزالة أنواع معينة من المعلومات (إذا تم إضعاف قانون حشمة الاتصالات ، على سبيل المثال ، أو بسبب أنواع أخرى من التنظيم) ، لأنه فجأة في هذه الحالة ، تصبح المنصة "الحكم" خطاب."

أجاب Rotenberg أنه في الوقت الذي خاضت فيه شركات السيارات لوائح السلامة ، إلا أنها في النهاية ساعدت في جعل السيارات أكثر أمانًا وأدت إلى مزيد من الابتكار. واقترح أن البيئة التنظيمية المستقرة قد تساعد المنصات بالفعل. لاحظ روتنبرغ أن شركات التكنولوجيا قد دفعت "الحياد الصافي" لشركات الاتصالات ، ولكن ليس لأنفسهم ، ودعا إلى ملعب متكافئ.

الإنترنت تحت الهجوم

مارك أندرسون ، خدمة الأخبار الإستراتيجية ؛ Peder Jungck، BAE Systems Intelligence & Security؛ ريبيكا ماكينون ، أمريكا الجديدة ؛ ديفيد كيركباتريك ، علم النفس

واصلت لجنة أخيرة تسمى "الإنترنت تحت الهجوم" هذه المناقشة.

وقالت ريبيكا ماكينون ، التي تدير مشروع تصنيف الحقوق الرقمية في أمريكا الجديدة ، إنه كان هناك افتراض أنه بسبب الإنترنت ، فإن الأنظمة الاستبدادية ستصبح في نهاية المطاف أشبه بالديمقراطيات. إنها الآن أكثر خوفًا من أن الأنظمة الاستبدادية والديمقراطيات "ستجتمع في المنتصف".

وقال ماكينون إن الأنظمة الاستبدادية تكيف الإنترنت مع أغراضها ، في حين تواجه الديمقراطيات الشعوبية والتلاعب و "رأسمالية المراقبة". لكنها قالت إن الديمقراطيات يجب أن تكون حريصة بشأن الاستجابة التنظيمية - بينما توافق على أن هناك حاجة لمزيد من الشفافية عندما يتعلق الأمر بالخوارزميات والخصوصية ، فإنها تشعر بالقلق من أن نظام الرقابة سيجعل من السهل اتخاذ إجراءات صارمة ضد الأجزاء المجتمع ازدراء الحكومة.

وافق Peder Jungck ، الذي يرأس قسم الاستخبارات والأمن لشركة BAE Systems ، على أن الحكومات ترغب في استخدام هذه الأنظمة للعثور على المنشقين ، وقال إن الفكرة هي منتج ، ومثل أي منتج يمكن دفعه. وردا على سؤال حول ما إذا كانت أنظمة الإعلانات سلاحًا ، قال: "تم فتح صندوق باندورا ولا يمكننا العودة".

قال مارك أندرسون ، من خدمة الأخبار الإستراتيجية ، إننا رأينا خطًا ثابتًا منذ أيام ARPANET ، عندما لم يكن هناك رجال سيئون ، إلى اليوم ، عندما نرى المزيد والمزيد من السلوكيات الخبيثة كل يوم.

كان أندرسون واضحًا بشكل خاص عند وصف كيفية قيام الصين بسرقة الملكية الفكرية واستخدامها لإبعاد الشركات عن العمل. واقترح أن الإختراق Equifax لديه كل علامات الهجوم الحكومي. في تلخيص ، قال أندرسون إنه "لا يرى حلاً".

وقال Jungck يجب أن نفترض أن الأشرار هم في أنظمتنا ، والعمل على إيجاد حلول. على سبيل المثال ، قال إن رقم الضمان الاجتماعي لم يعد آمنًا ، لذا فقد نحتاج بدلاً من ذلك إلى حل blockchain.

في مشروع تصنيف الحقوق الرقمية ، قام ماكينون بتقييم 22 شركة عالمية حول 35 سؤالًا حول أشياء مثل حرية التعبير والخصوصية والأمان. وقالت إن شركتين حصلت على "Ds" وفشل الجميع. إنها تريد أن تعرف ماذا تفعل الشركات مع بياناتك ؛ مع من يشاركونه؟ ما إذا كانوا يقومون بالعناية الواجبة والتقييمات الأمنية والحوكمة للمخاطر ؛ وما إذا كانوا يحمون الخصوصية والأمان والمحتوى والتعبير. قالت إن الشفافية ليست كافية ، ولكنها خطوة أولى ضرورية.

قال أندرسون إن الشفافية شيء جيد ، ولكنه ليس حلاً ، وأشار إلى أن الشخص الذي يريد التلاعب بنظام ما لا يتعين عليه دفع ثمن الإعلانات ، ولكن يمكنه استخدام 100000 شبكة إلكترونية. ثم اقترح كيركباتريك أن الشركات يمكن أن تفرض الهوية ، وبالتالي تقليل استخدام الروبوتات.

لكن ماكينون رد قائلاً إن نشطاء حقوق الإنسان هم الأكثر عرضة لاستخدام مثل هذه الأنظمة ، لأنه إذا فرضت الهوية ، فلن يكون هناك من يعارض وجود حكومة استبدادية على الشبكات الاجتماعية.

تساءل Jungck لماذا نحتاج إلى فرض هوية عندما تعرف المواقع بالفعل من أنت وما الذي ستقوم بشرائه. وقال "لا توجد معلومات مجهولة على شبكة الإنترنت ، لقد مضى وقت طويل". الفرق الوحيد هو كم من الوقت يستغرق لمعرفة من أنت.

في الختام ، قالت ماكينون إنها متفائلة على المدى الطويل ، ولكن على مدار المائة عام القادمة ، "ليس كثيرًا".

من خلال الاستماع إلى كل هذا ، من السهل أن نكون متشائمين ، أو على الأقل قاتلين بشأن مقدار التنظيم اللازم وتأثيره. لكنني لا أزال أميل إلى التفاؤل ، وبينما أعتقد أن هناك قدرًا من التنظيم الإضافي أمر محتمل وضروري على حد سواء ، أعتقد أنه من المحتمل أن يتوصل عمالقة الإنترنت اليوم - أو بعض اللاعبين في المستقبل - إلى إجابات أفضل.

ما مدى احتمال أن توصي PCMag.com؟