OpenAI: Колишня фірма Elon Musk знаходиться на межі нового A.I. Ера

OpenAI, неприбуткова організація, яка досліджує штучний інтелект, засновником якого є Елон Маск в 2016 році, досягає великих успіхів - навіть після того, як Маск розлучився на тлі розбіжностей щодо його напрямку. Дослідники розробили системи, які можуть грати в ігри, писати статті новин і переміщати фізичні об'єкти з новаторськими рівнями спритності.

OpenAI викликав суперечки з його дослідженнями. Минулого тижня було оголошено про розробку мовної моделі GTP2, яка може генерувати тексти з обмеженими підказками. З огляду на підказку, написану людиною «Майлі Сайрус потрапила до крадіжок у магазинах Abercrombie і Fitch на Голлівудському бульварі сьогодні», ця система створила правдоподібну повну історію, яка продовжувалася з «19-річної співачки потрапила на камеру, яка була виведена з магазину охоронцями."

Він також створив цю оригінальну історію про розмовляючих єдинорогів на основі короткого запиту:

"Я не тісно співпрацюю з OpenAI вже більше року і не маю керівництва або наглядовим комітетом", - прокоментував "Муск" Twitter у вихідні дні. “Я повинен був зосередитися на вирішенні болісно великої кількості інженерних і виробничих проблем у Tesla (особливо) & SpaceX. Крім того, Тесла конкурував за тих же людей, як OpenAI, і я не погоджувався з деякими з того, що команда OpenAI хотіла зробити. Додайте все це, і це було просто краще розлучатися на хороших умовах."

Фірма спочатку здавалася ідеальним способом для Маска досягти своїх цілей, використовуючи А.І. на благо людства. Підприємець попереджав раніше про «фундаментальний ризик» для цивілізації, що виникає через супер-розумні машини, закликаючи уряди регулювати «як ми робимо їжу, ліки, літаки та автомобілі».

Musk пообіцяв $ 10 мільйонів для початку фірми спочатку, і його місія зосереджена на "виявлення і впровадження шляху до безпечного штучного загального інтелекту".

Не важко зрозуміти, як програми, які створюють історії, подібні до тих, які поділяють представники OpenAI Грега Брокмана, можуть бути використані відносно невеликою кількістю людей, щоб впливати на думки громадськості, яка менш підкоряється.

Співробітник OpenAI роздрукував цей зразок, написаний AI, і розмістив його у кошику для утилізації: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Грег Брокман (@gdb) 14 лютого 2019 року

"Через нашу стурбованість з приводу шкідливих додатків технології, ми не випускаємо підготовлену модель", - пояснила компанія в повідомленні блогу. "Як експеримент у відповідальному розкритті, ми замість цього випускаємо набагато меншу модель для дослідників, щоб експериментувати, а також технічний документ".

Оголошення призвело до того, що технологія може бути використана для створення фальшивих новин. Analytics India попередив, що з наступними індійськими виборами в кінці цього року A.I. може спричинити хаос демократичним процесам. Самі дослідники OpenAI стверджують, що в поєднанні з дослідженнями з виробництва синтетичного аудіо та відео, «громадськості потрібно буде стати більш скептичними щодо тексту, який вони знаходять в Інтернеті».

Райан Лоу, А.І. вчений і колишній стажер OpenAI, підсумував загрозу програми, подібної до цієї, використовуваної для створення фальшивих новин, лаконічно в цій переданій поштою Medium:

Автоматизована система може: (1) дозволити поганим акторам, які не мають ресурсів для найму тисяч людей, вести масштабні кампанії з дезінформації; (2) різко збільшити масштаби кампаній з дезінформації, які вже ведуться державними суб'єктами.

Не всі дослідження OpenAI виявилися суперечливими. Dactyl, оприлюднений у липні 2018 року, може адаптуватися до реальної фізики для маніпулювання об'єктами в реальному світі. Рука робота дуже складна, з 24 ступенями свободи, але система може легко переміщати об'єкти навколо, просто використовуючи три камери RGB і координати руки робота.

Рука робота використовує алгоритми навчання загального призначення, які використовуються для збивання людей у ​​відеоіграх. Команда «OpenAI Five» зіткнулася з командою професіоналів Dota 2 Система була підготовлена ​​в 180-річних іграх, скориставшись приголомшливими 128 тисячами процесорних ядер і 256 графічними процесорами. В той час, як він бив людську команду екс-професіоналів і Twitch streamers, він провалився проти професійних гравців.

Мускус використовував Dota 2 збіги, щоб привернути увагу до нейралінку, його плану створити симбіотичні відносини з А.І. зв'язуючи людський мозок і уникаючи поглинання робота:

Велика робота @OpenAI. Необхідність нейронного інтерфейсу скоро дозволить симбіозу людини / AI.

- Елон Муск (@elonmusk) 6 серпня 2018 року

У своєму оголошенні генератора тексту OpenAI заявила, що планує обговорити свою ширшу стратегію за півроку. Фірма сподівається викликати нюансивну дискусію про небезпеку штучного інтелекту, що може уникнути деяких сценаріїв катастроф, передбачених Маску. Проте, навіть компанія визнає, що «не впевнена, що« утримання генератора тексту »є правильним рішенням сьогодні.» З розколом, що вже сформований між двома основними організаціями, що попереджають про небезпеку ШІ, навряд чи законодавці матимуть легкий час у розробці рішень.