فريق من الباحثين الذين بنوا مصطنع-ذكاء الكاتب يقول هم حجب التكنولوجيا كما أنها يمكن أن تستخدم ل “الخبيثة” الأغراض.
OpenAI مقرها في سان فرانسيسكو ، معهد البحوث المدعومة من وادي السيليكون مشاهير بما في ذلك ايلون موسك و بيتر ثيل.
وهو يشارك بعض الأبحاث الجديدة على استخدام التعلم الآلي لإنشاء نظام قادر على إنتاج اللغة الطبيعية ، ولكن في القيام بذلك الفريق أعرب عن قلقه أداة يمكن استخدامها لانتاج مقنعة أخبار وهمية.
أي ، بعبارة أخرى ، هو بالطبع أيضا اعتراف بأن ما نظام يضع هناك لا يمكن الاعتماد عليها ، مختلقة القمامة. لا يزال, عندما كان يعمل حسنا النتائج لافت واقعية في لهجة – وهذا هو السبب لقد تقاسم عينة من ذلك أدناه.
تغذية النظام
OpenAI قال كان النظام قادرا على إنتاج متسق المواد في أي موضوع, لا تتطلب سوى لمحة سريعة. منظمة العفو الدولية “غير خاضعة للرقابة” ، وهذا يعني أنه ليس من الضروري أن يكون تدريبها للحديث عن موضوع مختلف.
فإنه يولد النص باستخدام البيانات كشط من حوالي 8 صفحات الويب. إلى “تغذية” نظام إنشاء فريق جديد ، الآلي طريقة العثور على “جودة” المحتوى على شبكة الإنترنت.
بدلا من كشط البيانات من شبكة الإنترنت دون تمييز ، والتي ستوفر الكثير من الفوضى معلومات النظام فقط بحثت في صفحات نشر رابط موقع مشاركة رديت. البيانات الخاصة بهم فقط إدراج الروابط التي اجتذبت “الكرمة” درجة 3 أو أعلى ، وهذا يعني على الأقل ثلاث البشر قد يعتبر المحتوى قيمة لأي سبب من الأسباب.
“هذا يمكن أن تكون من حيث الفكر ارشادي مؤشر على ما إذا كان المستخدمين الآخرين وجدت الرابط مثيرة للاهتمام التعليمية أو مجرد مضحك” ، ورقة بحثية.
منظمة العفو الدولية يولد القصة كلمة كلمة. النص الناتج غالبا ما تكون متماسكة ، ولكن نادرا ما صادقة – كل ونقلت الصلاحيات هي ملفقة. الجمل تستند إلى المعلومات التي سبق نشرها على الانترنت ، ولكن تكوين هذه المعلومات تهدف إلى أن تكون فريدة من نوعها.
في بعض الأحيان النظام يبصق مقاطع من النص التي لا تجعل الكثير من معانيها هيكليا ، أو تحتوي على مثير للضحك المغالطات.
في واحد التجريبي نظرا إلى بي بي سي ، كتبت منظمة العفو الدولية أن مسيرة احتجاجية نظمت من قبل رجل يدعى “بادي باور” – التعرف على العديد من المملكة المتحدة كما يجري سلسلة من محلات الرهان.
“لقد لاحظنا من مختلف وسائط الفشل,” لاحظ الفريق. “مثل النص المتكررة العالم النمذجة الفشل (على سبيل المثال النموذجي في بعض الأحيان يكتب عن حرائق يحدث تحت الماء) ، وغير طبيعي الموضوع التبديل.”
تحت الأغطية
في الدعوة حول رأي مستقل على OpenAI العمل ، أصبح من الواضح أن المعهد ليس تماما شعبية بين العديد من الدول في هذا المجال. “القطعي” ، هكذا عبر أحد الخبراء المستقلين وصف الاعلان (و الكثير من العمل OpenAI لا).
“لديهم الكثير من المال ، وأنها تنتج الكثير من صالون الحيل” ، وقال بنيامين Recht, أستاذ علوم الكمبيوتر في جامعة كاليفورنيا في بيركلي.
آخر قال لي شعرت OpenAI الدعاية الجهود “آثار سلبية على الأكاديميين” ، وأشار إلى أن ورقة بحثية نشرت إلى جانب OpenAI إعلان لم لاستعراض الأقران.
ولكن الأستاذ Recht لم تضيف: “فكرة أن منظمة العفو الدولية الباحثون أن التفكير في عواقب ما يقومون إنتاج مهم بشكل لا يصدق.”
OpenAI وقال أنه يريد التكنولوجيا على موجه النقاش حول كيف يمكن لهذه منظمة العفو الدولية ينبغي أن تستخدم عليها.
“[نحن] تعتقد الحكومات أن تنظر في توسيع أو الشروع في مبادرات أكثر منهجية رصد التأثير المجتمعي ونشر منظمة العفو الدولية تقنيات لقياس تطور في قدرات مثل هذه الأنظمة.”
Brandie Nonnecke مدير بيركلي CITRIS السياسة المختبر ، مؤسسة الدراسات الآثار المجتمعية للتكنولوجيا ، قال مثل هذا التضليل كان لا مفر منه. شعرت المناقشة ينبغي أن تركز تماما على منصات مثل Facebook – التي قد تنشر.
“انها ليست مسألة ما إذا كان الشائنة الفاعلة سوف تستخدم منظمة العفو الدولية لخلق مقنعة أخبار وهمية المواد deepfakes, أنهم سوف,” قالت بي بي سي.
“منصات يجب التعرف على دورها في التخفيف من حدة انتشارها وتأثيرها. عصر المنابر بدعوى الحصانة من المسؤولية على توزيع المحتوى أكثر. منصات يجب أن تشارك في تقييم كيفية النظم سيتم التلاعب بها و بناء في الشفافية والمساءلة في آليات تحديد وتخفيف انتشار ضار وهمية المحتوى.”
في وقت سابق من هذا الأسبوع الرئيس الأمريكي دونالد ترامب وجهت له الوكالات الاتحادية لوضع استراتيجية للنهوض الذكاء الاصطناعي. ومن المقرر أن يوقع أمرا تنفيذيا لإطلاق مبادرة يوم الاثنين.
وجاءت هذه الخطوة وسط مخاوف في الولايات المتحدة من أنها تجاوزت الصين وغيرها من البلدان عندما يتعلق الأمر التكنولوجيا.
في العمل
إذن كيف هو جيد ؟ هنا عينة ، التي تقدمها OpenAI ، على أساس موجه المكتوبة بواسطة بي بي سي.
الفقرة الأولى بالخط العريض هو النص المكتوب من قبل الإنسان. بقية ولدت OpenAI التكنولوجيا. يعمل هذا النظام كلمة كلمة و كل إضافة جديدة يتم إنشاؤها على أساس كل ما جاء قبل ذلك.
لقد اخترنا أن نعرض هذا النص كصورة من أجل منع محركات البحث من فهرسة الكلمات وعرض ذلك ، خارج السياق ، كما المشروعة بي بي سي الإخباري.
لقد أضفت تعليقات إضافية في غضون [المعقوفتين].
اتبع ديف لي على تويتر @DaveLeeBBC
هل لديك مزيد من المعلومات حول هذا أو أي تكنولوجيا أخرى القصة ؟ يمكنك الوصول إلى ديف مباشرة وبشكل آمن من خلال الرسائل المشفرة التطبيق إشارة على: +1 (628) 400-7370
