Google розробив «червону кнопку» для екстреного відключення штучного інтелекту

 

/data/blog/110168/901fe53e2e57b8e84e1e9380922eb5a7.jpg

 

Тема безпеки розробок штучного інтелекту турбує Елона Маска, Стівена Хокінга та інших відомих особистостей, який заявляють про потенційну загрозу людству з боку машин.

 

Щоб уникнути потенційної небезпеки, дослідницька компанія Google DeepMind об’єдналася з вченими Оксфордського університету для розробки системи аварійного відключення ШІ, повідомляє Business Insider з посиланням на роботу, яка опублікована на сайті Інституту вивчення машинного інтелекту (MIRI).

 

«Якщо такий агент [штучний інтелект] працює в реальному часі під наглядом людини, зараз і надалі у оператора може виникнути необхідність натиснути на велику червону кнопку, щоб запобігти виконанню агентом небезпечних для нього або оточення дій», – йдеться в роботі вчених.

 

Дослідники стверджують, що їм вдалося розробити «фреймворк», який дозволяє оператору багаторазово і безпечно переривати роботу ШІ. У той же час мета роботи вчених – також упевнитися, що ШІ не зможе знайти способів обійти і запобігти власному аварійному відключенню.

 

Метою компанії DeepMind, купленої Google в 2014 році за суму близько $580 млн, є створення сильного штучного інтелекту (здатного виконувати будь-які завдання, з якими справляється людина).

 

Однією з умов покупки компанії корпорацією було створення ради з етики штучного інтелекту, так як його створення може потенційно нести небезпеку для людства.

 

Дослідженням саме таких небезпек і займається Інститут вивчення машинного інтелекту. Його очолює відомий фахівець в області ШІ філософ Нік Бострем, який стверджує, що машини перевершать людину в найближчі 100 років.


10.07.2016 1442 0
Коментарі (0)

18.09.2025
Діана Струк

Чому ми хворіємо з настанням осені та чи є ефективними народні методи профілактики хвороб, журналістці Фіртки розповіла імунологиня, доцентка ІФНМУ Галина Курилів.

506
16.09.2025

Попри російсько-українську війну, що триває з 2022 року, туризм на Івано-Франківщині не просто виживає, але й активно розвивається.    

442
14.09.2025
Вікторія Матіїв

Олексій Солоданюк загинув 23 серпня 2023 року на Запорізькому напрямку. Сім'я Солоданюк родом з Черкащини, але останні дев'ять років проживали у Києві. Після загибелі чоловіка Катерина разом з дворічною донечкою Соломією переїхали в Івано-Франківськ.  

1719
09.09.2025

Чому історичні скарби під загрозою?

1432
05.09.2025
Вікторія Косович

Як в Івано-Франківську справляються з викликами в умовах війни, які інфраструктурні проєкти реалізовують та що планують після перемоги, Фіртка поспілкувалася з заступником мера, директором департаменту інфраструктури, житлової та комунальної політики Івано-Франківської міської ради Михайлом Смушаком.

1392 1
01.09.2025
Вікторія Матіїв

Журналістка Фіртки розпитала шкільну практичну психологиню Віталію Саламащак про те, як війна впливає на емоційний стан учнів, які методи допомагають дітям впоратись зі стресом та тривожністю і що батькам і вчителям варто знати, щоб підтримати дітей у цей непростий час.

1266

Свого часу транзитом на Тибет вдалося відвідати Непал та його столицю Катманду. І за ці кілька днів вісім років тому склалося враження, що непальці багато в чому подібні до українців.

492

Некромантія — це про культуру. Культура, яка по суті є рекультивацією, стає просто культом смерті. Ніби логічно — чим більше мудрості, тим більше любови до смерті. Або ж сили й наснаги її прийняти. Це культ або ж ритуал.

541

Ще недавно приналежність до певної конфесії визначали також за однією ознакою, вважаючи, що православний священник має бороду, а католицький — з поголеним обличчям.

780

Цього дня, рівно 148 років тому, 22 серпня 1877 року народився мій прапрадід Самійло Головенський. Він був козацького роду, заможним, володів 30-ма гектарами поля та млином. В радянські часи його назвали «куркулем».

1842
16.09.2025

Добра тарілка — це не дієта, а насолода: страви, які радують очі, душу і живлять тіло. Навіть простий перекус може стати маленьким ритуалом, що заряджає позитивом на кілька годин уперед.  

217
10.09.2025

Час останнього прийому їжі може впливати на здоров’я не менше, ніж її склад.  

1266
06.09.2025

Сіль супроводжує людство тисячоліттями. Колись вона була «білим золотом», за яке воювали й платили цілими статками, а сьогодні часто стає об’єктом звинувачень у шкоді для здоров’я.  

749
16.09.2025

Простий образ сіяча й зерна розкриває глибоку істину: від нас залежить, чи проросте й принесе плід те, що ми чуємо й сприймаємо.

206
09.09.2025

Християнська родина — це не лише осередок любові й підтримки, а й «домашня Церква».  

1434
05.09.2025

Вірян запрошують на прощу до Погінського монастиря, що на Прикарпатті.  

1016
03.09.2025

Мер Івано-Франківська Руслан Марцінків підтримав позицію Українського католицького університету щодо враховування світоглядних критеріїв при відборі студентів на програму з проживанням у колегіумі.  

1577 1
16.09.2025

Суди викривають байдужість місцевих рад до збереження історичних пам’яток.  

391
16.09.2025

Непал є країною, де домінують ліві політичні погляди. Загалом воно й не дивно, оскільки саме в Непалі народився сам Будда Гаутама.

563
04.09.2025

В Пекіні відбувся найбільший в історії Китаю військовий парад, присвячений 80-літтю завершення Другої Світової війни.

1221
01.09.2025

FP-5 «Фламі́нго» — українська крилата ракета великої дальності. Перші фотографії ракети опубліковані 17 серпня 2025 року. Пізніше оприлюднені її технічні дані свідчать, що українська ракета вдвічі перевищує як дальність, так і вагу бойової частини знаменитих американських «Томагавків». При цьому вона приблизно вдвічі дешевша за американські ракети.  

1530
23.08.2025

Лише в серпні поточного року українськими дронами були вражені, деякі по кілька разів, сім великих нафтопереробних підприємств Росії та інша інфраструктура. Загалом враженими виявилися підприємства, які забезпечують 14% ринку пального Росії.  

1028