Проект OpenAI Елона Муска визначив 4 великі проблеми для ШІ

Більшість проблем, які можуть виникнути внаслідок більш складного штучного інтелекту, є набагато більш витонченими, ніж SkyNet, але це не означає розумніше A.I. без ризиків.

Ось чому Елон Маск та інші силіконові долини утворили Open AI, групу, присвячену вирішенню проблем з A.I. перш ніж вони зможуть завдати реальної шкоди. Ця група називається OpenAI, і вона шукає допомоги з цих питань.

"OpenAI є некомерційною компанією з дослідження штучного інтелекту", - каже група на своїй сторінці "Про компанію". "Наша мета полягає в тому, щоб просунути цифрову розвідку таким чином, який, швидше за все, принесе користь людству в цілому, не обмежуючись необхідністю отримання фінансового прибутку".

Розміщення на робочому місці, замасковане під повідомленням у блозі під назвою «Спеціальні проекти», окреслює чотири такі «проекти» як проблеми, які мають «або дуже широкі наслідки», або які стосуються «важливих наслідків розвитку ІІ». А потім її письменники - Ілля Суцкевер, Даріо Амодеі і Сем Альтман - запрошують будь-яких сильних фахівців з машинного навчання, щоб «розпочати роботу над однією з цих проблем на OpenAI». Ось чотири великі проблеми, з якими стикається штучний інтелект:

Пошук скритих систем ІІ.

Що гірше, ніж дуже розумний А.І. які можуть бути використані для неправильного призначення? Дуже розумний А.І. що вже використовується для помилкових цілей, не знаючи нікого. "З ростом кількості організацій і ресурсів, що виділяються на дослідження AI, ймовірність зростає, що організація зробить невизначений прорив AI і використовує систему для потенційно шкідливих цілей", - пише команда OpenAI у своєму блозі. - Здається, важливо це виявити. Ми можемо уявити багато способів зробити це - переглядаючи новини, фінансові ринки, онлайн-ігри тощо.

Побудова А.І. що може програмувати.

Деякі з кращих програмістів ледачі. Тому має сенс, що OpenAI хоче створити A.I. здатний самостійно створювати програми. Краще проводити час, роблячи A.I. досить розумний, щоб кодувати все, що може знадобитися в майбутньому, ніж кодувати всі ці речі самостійно. Це 2016 рік, щоб плакати голосно, а кодерам потрібна перерва!

Використання A.I. для кіберзахисту.

"Раннє використання AI буде прорватися в комп'ютерні системи", пише OpenAI. "Ми хотіли б, щоб методи ІІ захищалися від складних хакерів, які активно використовують методи ІІ." Це звучить добре, тим більше, що MIT попередив, що поточний A.I. покладається на людей для захисту від кібератак.

Створення дуже складних моделей.

"Ми зацікавлені в побудові дуже великого моделювання з багатьма різними агентами, які можуть взаємодіяти один з одним, вивчати протягом тривалого періоду часу, відкривати мову та виконувати багату різноманітність цілей", - пише команда OpenAI.

О, давай. Тепер ви, хлопці, просто намагаєтеся довести, що Муск має рацію щодо нас, що живемо в симуляції.