DARPA вирішила, що хоче насправді зрозуміти А.І.

Пентагон хоче дізнатися, що робить галочку штучного інтелекту. Агенція оборонних перспективних дослідницьких проектів (DARPA) оголосила в четвер, що вона надзвичайно зацікавлена ​​в поясненні А.І. проектів, відомих як XAI. Ця новина є різким відходом для агентства, яке раніше визначило пріоритет А.І. ефективності, замість того, щоб реально розуміти, як системи приходять до рішень.

DARPA прагне підтримати A.I. проектів, які зрозуміють кінцевому користувачеві, чому щось сталося. Наприклад, DARPA хоче розвідки аналітиків зрозуміти, чому рекомендації їх А.І. відправляє їх було обрано. Якщо аналітик вивчає A.I. вибрані дані, вони повинні розуміти, чому комп'ютер ставить ці дані перед ними, а не щось інше. A.I. подібно до тих, що в агентстві фінансуються Cyber ​​Grand Challenge повинні бути розроблені в більш прозорий спосіб, але DARPA заявив, що він буде розглядати різні користувальницькі інтерфейси (це не дає на занадто багато деталей, як XAI проект повинен пояснити себе.)

Тези доповідей для потенційних проектів мають бути надані до 1 вересня, а DARPA очікує роздавання численних нагород дослідникам. До них відносяться договори про закупівлі та угоди про співробітництво, але агентство не буде надавати гранти. Агентство також шукає команди, які можуть проводити дослідження як A.I. слід пояснити себе; іншими словами, дослідникам необхідно вивчити А.І. так само психологи вивчають, як людський розум обробляє інформацію в різних обставинах.