DARPA запустило програму навчання ШІ математиці для військових цілей

Агентство перспективних оборонних дослідницьких проектів США (DARPA) запустило нову ініціативу під назвою Exponentiating Mathematics, спрямовану на створення штучного інтелекту, здатного проводити високорівневі математичні дослідження. Програма має на меті прискорити прогрес у чистій математиці та перетворити ШІ на видатного математика.

Патрік Шафто, математик з Ратгерського університету та комп'ютерний науковець, який зараз працює менеджером програми в інформаційному інноваційному офісі DARPA, пояснює мотивацію проекту. «Математика є чудовим полігоном для того, що зараз є ключовою проблемою систем штучного інтелекту», — зазначив він. «Якщо ми подолаємо це, потенційно це звільнить набагато потужніший ШІ. Є величезна потенційна користь для спільноти математиків та суспільства загалом».

Незважаючи на вражаючі можливості сучасних великих мовних моделей, таких як ChatGPT від OpenAI, які можуть писати вірші в стилі Волта Вітмена або давати поради щодо побачень, вони часто спотикаються на базових математичних задачах. Деякі експерти вбачають у цьому внутрішнє обмеження технології, особливо коли справа стосується складного міркування.

Алондра Нельсон, яка працювала головним науковим радником в адміністрації президента Джозефа Байдена та є викладачем Інституту перспективних досліджень у Прінстоні, підкреслює важливість цієї роботи. «Покращуючи математику, ми також краще розуміємо, як працює ШІ», — сказала вона. «Тому я думаю, це свого роду благотворний цикл розуміння». Вона припускає, що в майбутньому математично обізнаний ШІ може покращити криптографію та допомогти в дослідженні космосу.

DARPA, створене після Другої світової війни для конкуренції з Радянським Союзом у космічній гонці, найбільш відоме тим, що сприяло дослідженням, які призвели до створення ARPANET — попередника сучасного інтернету. Агентство також фінансувало дослідження, які дали початок дронам та цифровому асистенту Siri від Apple.

Ендрю Гренвілл, математик з Монреальського університету, висловлює певні застереження щодо математичної ініціативи DARPA. «Я впевнений, що це не на сто відсотків невинно», — сказав він, хоча підкреслив, що лише спекулює про можливі наслідки. DARPA все ж таки є частиною Пентагону, навіть якщо традиційно працює з завидною незалежністю. Американські військові швидко впроваджують ШІ у свої операції, прагнучи не програти Китаю та його Народно-визвольній армії або Росії.

Водночас доктор Гренвілл хвалить цю ініціативу, особливо в контексті скорочення фінансування наукових досліджень адміністрацією Трампа. «Ми переживаємо катастрофічні часи для американської науки», — зазначив він. «Я дуже радий, що DARPA може направляти гроші в академічні кола».

Доктор Шафто пояснює свій підхід до математики. «Є великі математики, які працюють над віковими проблемами. Це не той тип речей, який мене особливо цікавить», — сказав він. Натомість він хоче, щоб дисципліна рухалася швидше, використовуючи ШІ для економії часу.

«Проблеми в математиці іноді потребують десятиліть або століть для вирішення», — зазначив він під час недавньої презентації проекту Exponentiating Mathematics у штаб-квартирі DARPA. Він показав слайд, який демонстрував, що з точки зору кількості опублікованих статей математика стагнувала протягом останнього століття, тоді як науки про життя та технічні науки вибухово зросли.

Чиста математика, яку доктор Шафто хоче прискорити, є повільною, оскільки вона не шукає числових рішень конкретних проблем, як це робить прикладна математика. Замість цього чиста математика є сферою візіонерських теоретиків, які роблять сміливі спостереження про те, як працює світ.

Брайна Кра, математик з Північно-Західного університету, пояснює складність процесу. «Весь математичний апарат будується на попередній математиці, тому ви не можете доводити нові речі, якщо не розумієте, як доводити старі», — сказала вона. «Щоб бути дослідником-математиком, поточна практика полягає в тому, що ви проходите кожен крок, доводите кожну деталь».

Lean, програмний асистент доказів, може прискорити процес, але доктор Гренвілл зазначає, що він «дратівливий, оскільки має свої власні протоколи та мову», що вимагає експертизи в програмуванні.

Джордан Елленберг, математик з Університету Вісконсін-Медісон, який є частиною команди, що подає заявку на грант Exponentiating Mathematics, вважає, що це дослідження допоможе зрозуміти можливості різних протоколів ШІ. «У нас ще немає інтуїції щодо того, які проблеми будуть складними, а які легкими. Нам потрібно це вивчити», — сказав він.

Даріо Амодеї, генеральний директор компанії штучного інтелекту Anthropic, зазначає одну з найбільш тривожних істин про штучний інтелект: ми не повністю розуміємо, як він працює. «Цей брак розуміння по суті безпрецедентний в історії технологій», — написав він у недавньому есе.

Доктор Нельсон визнає «законні» занепокоєння щодо швидкого темпу, з яким штучний інтелект інтегрується практично в кожен сектор суспільства. Тим більше причин, стверджує вона, щоб DARPA займалося цим питанням. «Існує набагато вищий стандарт, якого потрібно досягти, ніж те, чи галюцинує ваш чат-бот, коли ви ставите йому питання про Шекспіра», — сказала вона. «Ставки набагато вищі».