Google розробив «червону кнопку» для екстреного відключення штучного інтелекту

 

/data/blog/110168/901fe53e2e57b8e84e1e9380922eb5a7.jpg

 

Тема безпеки розробок штучного інтелекту турбує Елона Маска, Стівена Хокінга та інших відомих особистостей, який заявляють про потенційну загрозу людству з боку машин.

 

Щоб уникнути потенційної небезпеки, дослідницька компанія Google DeepMind об’єдналася з вченими Оксфордського університету для розробки системи аварійного відключення ШІ, повідомляє Business Insider з посиланням на роботу, яка опублікована на сайті Інституту вивчення машинного інтелекту (MIRI).

 

«Якщо такий агент [штучний інтелект] працює в реальному часі під наглядом людини, зараз і надалі у оператора може виникнути необхідність натиснути на велику червону кнопку, щоб запобігти виконанню агентом небезпечних для нього або оточення дій», – йдеться в роботі вчених.

 

Дослідники стверджують, що їм вдалося розробити «фреймворк», який дозволяє оператору багаторазово і безпечно переривати роботу ШІ. У той же час мета роботи вчених – також упевнитися, що ШІ не зможе знайти способів обійти і запобігти власному аварійному відключенню.

 

Метою компанії DeepMind, купленої Google в 2014 році за суму близько $580 млн, є створення сильного штучного інтелекту (здатного виконувати будь-які завдання, з якими справляється людина).

 

Однією з умов покупки компанії корпорацією було створення ради з етики штучного інтелекту, так як його створення може потенційно нести небезпеку для людства.

 

Дослідженням саме таких небезпек і займається Інститут вивчення машинного інтелекту. Його очолює відомий фахівець в області ШІ філософ Нік Бострем, який стверджує, що машини перевершать людину в найближчі 100 років.


10.07.2016 1402 0
Коментарі (0)

17.07.2025
Катерина Гришко

Родичі пробачили хлопцю, знаючи про «своєрідний характер» загиблої і його нелегке дитинство, і просили в суді застосувати менш суворе покарання.  

2425
13.07.2025
Вікторія Матіїв

Дружина полеглого воїна Любов Галько розповіла журналістці Фіртки, яким був Руслан Галько — у повсякденному житті, в родинному колі та на фронті.

19534
09.07.2025
Тетяна Дармограй

В інтерв’ю професорка кафедри судової медицини Івано-Франківського національного медичного університету Наталія Козань розповіла про процес та методи ідентифікації тіл загиблих військових, виклики, з якими стикаються фахівці та чому ця робота — це насамперед про гідність.  

1747
05.07.2025
Вікторія Косович

Про те, що таке фемінізм, як він розвивався в українському суспільстві та чому його не потрібно боятися, Фіртка поспілкувалася з журналісткою та письменницею, авторкою книги "Слово на літеру "Ф" Іриною Славінською.

1220 1
30.06.2025
Тетяна Ткаченко

Про актуальність проблеми больового синдрому в периопераційному періоді журналістці Фіртки розповів завідувач кафедри анестезіології та інтенсивної терапії Івано-Франківського національного медичного університету, професор Іван Тітов.  

2268
26.06.2025
Олег Головенський

Фіртка вже проаналізувала декларації нардепів, керівників рад, ОВА та голів громад Прикарпаття за 2024 рік. Сьогодні — фінальна частина: декларації керівників правоохоронних органів області.

3874

Я відкладаю роботу над перекладом книги. Виходжу з кабінету, де практикував Вольфганг Льох, засновник психоаналітичного об'єднання... Спускаюся повз книжковий магазин, де збиралися тюбінгенські філософи, і де Ернст Блох шукав світлі сторони соціалізму. Повертаю ліворуч і натрапляю на інший книжковий магазин, де працював і писав Герман Гессе...

139

По соцмережах пішла дискусія про зрізані кілька дерев (ялинок) на Івано-Франківській Площі Ринок. «Політично» мотивований ґвалт наростає. Аж до вимог «засадити» ринкову площу деревами та зробити парк.

2010

Гадаю багато хто був свідком такої ситуації в церкві, коли дитина могла пробігтись у церкві, кудись заглядати, можливо щось голосно запитувати й одразу отримати зауваження або присоромлення від інших, часто старших, людей або бабусь.

697

Ніколи ідіотизм не стає більш очевидним, як у момент, коли починають його зводити у абсолют великі писарі сентиментально-переконливих текстів у редакційних кімнатах центрів, які «творять думки».

1310
13.07.2025

Першими жнива на Прикарпатті почали хлібороби Покуття.

380
10.07.2025

У сучасному ритмі життя готувати "здорову вечерю з трьох страв" щодня — радше мрія, ніж реальність. Але це не означає, що збалансоване харчування — лише для тих, хто має багато часу. Навпаки: з правильним підходом можна харчуватися повноцінно, навіть маючи 15–20 хвилин на день.  

907
04.07.2025

Харчування під час війни немає відрізнятись від звичного раціону, який був у мирний час, та обов'язково повинне бути збалансованим. 

24402
15.07.2025

Християнська родина — це не лише осередок любові й підтримки, а й «домашня Церква».  

638
11.07.2025

П'ятого серпня цього року в часі прощі з нагоди вшанування чудотворної ікони Гошівської Богородиці відбудеться презентація нової ікони тифлографічно-акустичного типу «Богородиця з Гошева».  

611
05.07.2025

Протягом двох днів, 12-13 липня, у Погінському монастирі Успіння Матері Божої відбудеться XVI міжнародний з'їзд Апостольства страждальної Матері Божої покровительки доброї смерті.  

747
30.06.2025

У рамках цього благодійного заходу зібрали 78 тисяч 320 гривень на підтримку 10 окремої гірсько-штурмової бригади «Едельвейс».  

1641
11.07.2025

Історія занепаду пам’ятки архітектури та боротьба за його повернення громаді.

8052
15.07.2025

У понеділок, 14 липня, генсек НАТО Марк Рютте під час зустрічі із президентом США Дональдом Трампом у Білому домі нагадав президенту США, кого Росія відправила керівником делегації на переговори до Стамбула.

490
09.07.2025

Президент США Дональд Трамп, аби втримати пУтіна від вторгнення в Україну, погрожував російському диктатору «розбомбити Москву до бісової матері».

781
04.07.2025

«Більдерберзький клуб» — одна із найбільш загадкових закритих «тусовок». Зустрічі клубу щороку тривають кілька днів щоразу в іншому місці.

2056 4
02.07.2025

Президент США Дональд Трамп оглянув новий центр утримання мігрантів "Алігатор Алькатрас" у Південній Флориді.  

738