Фото: Unsplash
Керівники компаній у сфері штучного інтелекту, серед яких Anthropic, OpenAI, Meta і Microsoft, закликали політиків перевірити, наскільки системи ШІ здатні самостійно вдосконалюватися, та вжити заходів для захисту цієї технології. Про це Фіртка із посиланням на MEDIASAPIENS та Bloomberg.
У новій статті понад 20 керівників і дослідників у галузі ШІ висловили стурбованість тим, що практика залучення штучного інтелекту до розробки нових моделей колись може призвести до стрімкого прискорення розвитку технологій. Це явище вони назвали «вибухом інтелекту».
Як ідеться в статті, це збільшить ризики того, що можливості ШІ перевищать здатність суспільства керувати технологією та адаптуватися до неї. Дослідники також попередили, що автоматизація досліджень і розробок у сфері штучного інтелекту може послабити людський нагляд.
Дослідники закликали політиків отримати більше інформації про те, як у провідних лабораторіях використовують ШІ для автоматизації досліджень, а також розробити механізми для керування та стримування «вибуху інтелекту».
Автори статті запропонували посилити заходи безпеки та нагляд за дата‑центрами, які займаються автоматизованими дослідженнями та розробками у сфері ШІ. Вони також закликали створити плани екстреного реагування на різні сценарії розвитку штучного інтелекту.
Серед авторів статті — співзасновник Anthropic Джек Кларк, головний науковий співробітник OpenAI Якуб Пахоцький, піонери штучного інтелекту Джеффрі Гінтон і Йошуа Бенджіо та інші.
Провідні розробники ШІ посилили попередження про можливі катастрофічні наслідки майбутніх передових систем через кілька недавніх інцидентів, пов’язаних із ШІ-агентами, а також відчуття в окремих компаніях, що технологія дедалі краще самовдосконалюється.
Зокрема, Anthropic повідомила цього місяця, що понад чверть її досліджень і розробок у сфері ШІ вже виконує чатбот Claude, тоді як на початку року цей показник був майже нульовим.
У вересні гендиректор Anthropic Даріо Амодеї закликав галузь підтримати ширші зусилля, щоб уповільнити темпи розробок найпотужніших ШІ-моделей. Його план підтримали гендиректор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск.
Підписуйтесь на канал Фіртки в Telegram, читайте нас у Facebook, дивіться на YouTubе. Цікаві та актуальні новини з першоджерел!
Читайте також:
МОН визначило, як школи мають організовувати навчання під час війни: передбачили кілька моделей
