A.I. Експерт Вірджинія Dignum: Проблема візки показує, чому нам потрібна прозорість

Штучний інтелект потребує прозорості, щоб люди могли його дотримуватися, стверджує дослідник. Вірджинія Дінгум, доцент Технологічного університету Делфта, розповіла аудиторії в Нью-Йоркському університеті, що якщо ми не зрозуміємо, чому машини діють так, як ми, то ми не зможемо судити про їхні рішення.

Dignum послався на розповідь Давида Берреі, наукового письменника і дослідника, який був опублікований в Росії Психологія сьогодні: "Докази свідчать, що коли люди працюють з машинами, вони відчувають менший сенс агентства, ніж вони роблять, коли вони працюють самостійно або з іншими людьми".

«Проблема тролейбуса», - пояснив Діньюм, - область, де люди можуть сліпо вірити в машину, щоб вибрати правильний результат. Питання полягає в тому, щоб перемкнути важіль на гіпотетичний біговий потяг, щоб він убив одну людину замість п'яти. Люди очікують, що машини вирішать проблему найбільш раціональним способом. Це не завжди може бути так, і прозорість допоможе пояснити, як машина прийшла до свого рішення.

"Це не просто дуже глибокий, нейронний мережевий ланцюг подій, який ніхто не може зрозуміти, а зробити ці пояснення таким чином, щоб люди могли зрозуміти", - сказала вона.

A.I. що робить його робота чіткою є область DARPA вивчав. У серпні агентство опублікувало оголошення про те, що він шукає команди, зацікавлені в поясненні А.І. проектів, відомих як XAI. Ці системи допоможуть дослідникам зрозуміти, чому A.I. прийняв рішення, що він зробив, надавши більше можливостей вирішити, що робити з отриманою інформацією, а не сліпо довіряти машині.

З машинного навчання, Dignum зазначив, що прозорість є більш важливим, ніж будь-коли. "Ми не можемо очікувати, що системи, і особливо машини машинного навчання, будуть вчитися, і знати все це відразу," сказала вона.“Ми не очікуємо, що наші водії, коли їдуть, будуть повністю розуміти закони про дорожній рух. У багатьох країнах вони використовують ці «L» пластинки, щоб показати: «Я вчуся, вибачте за помилки, які я можу зробити». зупиняють машини, які все ще навчаються від прийняття поганих рішень.