Судова система заявляє, що система галюцинації ШІ готова до впровадження після суттєвого зниження очікувань | Френк Лендімор, футуризм Використання ШІ в юридичній сфері — це подарунок, який продовжує дарувати. Цього разу це відчуття розчарування, яке охопило команду, яка створила штучний інтелект чат-бота для судової системи Аляски, фактично протестувала його і виявила, що це була галюцинаторна катастрофа, повідомляє NBC News. Чат-бот, який отримав назву Alaska Virtual Assistant, був створений для допомоги людям у роботі з формами та іншими процедурами, пов'язаними з спадкуванням — юридичним процесом передачі речей після смерті. У передбачуваному повороті подій, замість того щоб спростити вже головний біль у людей, які, ймовірно, оплакують втрату близької людини, ШІ помилився з простими питаннями і залишив більшість користувачів з відчуттям роздратування, а не підтримки. Проявляючи недоліки, властиві всім великим мовним моделям, шанований віртуальний асистент постійно галюцинував, вигадував факти та ділився перебільшеною інформацією, за словами людей, які займалися його розробкою. «У нас були проблеми з галюцинаціями, незалежно від моделі, коли чат-бот не мав фактично використовувати нічого поза межами своєї бази знань», — розповіла NBC News Обрі Соуза, консультантка Національного центру судів штатів (NCSC). «Наприклад, коли ми питали: 'Де мені отримати юридичну допомогу?', він відповідав: 'В Алясці є юридична школа, І ось подивіться на мережу випускників.» Але на Алясці немає юридичної школи.» І замість того, щоб бути корисним, більшість тестів вважали його надзвичайно дратівливим. Як і слід було очікувати, бот страждав від тієї ж характерної вади, що й більшість чат-ботів: надто підлабузник і нудний, удаваний співчутливий і ласкав вас люб'язностями замість того, щоб просто перейти до справи. «Під час нашого користувацького тестування всі казали: 'Мені набридло, що всі в моєму житті співчувають моїй втраті», — сказав Соуза. «Отже, ми фактично прибрали такі співчуття, бо від AI-чатбота не потрібно одне більше.» Створений у співпраці з Томом Мартіном, юристом, який керує компанією LawDroid, що виробляє юридичні інструменти для ШІ, AVA AI вже понад рік перебуває у пеклі розробки, хоча це «мав бути тримісячний проєкт», за словами Соузи. Після зниження очікувань — і, безумовно, усунення жахливих недоліків — команда AVA заявляє, що нарешті готова до публічного запуску наприкінці січня. «Ми трохи змінили наші цілі в цьому проєкті», — розповіла NBC News Стейсі Марз, адміністративна директорка судової системи Аляски та керівниця проєкту AVA. «Ми хотіли відтворити те, що наші людські фасилітатори в центрі самодопомоги можуть поділитися з людьми. Але ми не впевнені, що боти зможуть працювати таким чином, через деякі неточності та неповноту.» «Це було надзвичайно трудомістко», — додав Марц, незважаючи на «весь ажіотаж навколо генеративного ШІ та всі казали, що це революціонізує самодопомогу і демократизує доступ до судів.»