Google розробив «червону кнопку» для екстреного відключення штучного інтелекту

 

/data/blog/110168/901fe53e2e57b8e84e1e9380922eb5a7.jpg

 

Тема безпеки розробок штучного інтелекту турбує Елона Маска, Стівена Хокінга та інших відомих особистостей, який заявляють про потенційну загрозу людству з боку машин.

 

Щоб уникнути потенційної небезпеки, дослідницька компанія Google DeepMind об’єдналася з вченими Оксфордського університету для розробки системи аварійного відключення ШІ, повідомляє Business Insider з посиланням на роботу, яка опублікована на сайті Інституту вивчення машинного інтелекту (MIRI).

 

«Якщо такий агент [штучний інтелект] працює в реальному часі під наглядом людини, зараз і надалі у оператора може виникнути необхідність натиснути на велику червону кнопку, щоб запобігти виконанню агентом небезпечних для нього або оточення дій», – йдеться в роботі вчених.

 

Дослідники стверджують, що їм вдалося розробити «фреймворк», який дозволяє оператору багаторазово і безпечно переривати роботу ШІ. У той же час мета роботи вчених – також упевнитися, що ШІ не зможе знайти способів обійти і запобігти власному аварійному відключенню.

 

Метою компанії DeepMind, купленої Google в 2014 році за суму близько $580 млн, є створення сильного штучного інтелекту (здатного виконувати будь-які завдання, з якими справляється людина).

 

Однією з умов покупки компанії корпорацією було створення ради з етики штучного інтелекту, так як його створення може потенційно нести небезпеку для людства.

 

Дослідженням саме таких небезпек і займається Інститут вивчення машинного інтелекту. Його очолює відомий фахівець в області ШІ філософ Нік Бострем, який стверджує, що машини перевершать людину в найближчі 100 років.


10.07.2016 775 0
Коментарі (0)

27.05.2020
Люся Грибик

Як вийти з карантину з чистим та доглянутим обличчям Фіртці розповіла франківська косметологиня Стефанія Білусяк.

429
26.05.2020
Роса Мартинюк

 Жінка не може працювати в  урології, йти до лікаря варто тоді, коли вже болить, а простатит лікується за 5 хвилин — ці та інші міфи ми часто чуємо та чи розуміємо їхню помилковість?Розмовляємо із Владиславою Литвинець — лікарем-урологом Лікувально-ліагностично центру професора Литвинця, асистентом кафедри урології Івано-Франківського медичного університету.

2156
22.05.2020
Олена Британська

Ця історія з тих, які тягнуться роками. Про з’єднання Південного та Північного бульварів в Івано-Франківську заговорили ще у 2015-му.

2901 2
22.05.2020
Марія Лутчин

Уявити собі сучасні міста, містечка та села без асфальтного покриття просто неможливо – десь воно ідеальне, десь бажає бути кращим, а десь ями та вибоїни роками не бачили асфальтобетонного катка. Тому сьогодні асфальт впевнено можна назвати одним з

2731
21.05.2020
Роса Мартинюк

Вона справляє враження жінки, що все встигає — працює на роботі, двічі на рік організовує етнофестиваль та виховує трьох діток. Про те, як їй все вдається, з чого починалася “Крайка”, про навчання у Парижі та курйозні ситуації під час організації: говоримо із Наталією Бартків.

723
19.05.2020

Вищі навчальні заклади закінчуватимуть навчальний рік у дистанційному режимі. 

1098

Сервус, товариство! Так склались обставини, що зараз ми, як і весь світ, занурились у боротьбу з вірусом і за тим не зауважили кардинальних змін, що відбуваються у  суспільстві.  Не відкрию вам Америки, якщо скажу, що багато жителів Галичини м

2001

Під прикриттям карантину відбувається наглий дерибан коштів і майна міста.

4472

Середньосвітова смертність від коронавірусу складає 5,8%. Проте це тільки середня температура по палаті, яка в кожній окремій палаті (країні) різна.

3968 2

ВЕСНу/2020 весь світ запам’ятає…

3080
17.04.2020

Пам’ятаймо, що маємо поділитися цією радісною звісткою з усіма, хто у скорботі та потребує нашої розради.

1713
10.04.2020

Великдень, Воскресіння Христове або Пасха – найбільш давнє, урочисте й радісне свято з усіх великих християнських свят церковного року. До цього світлого дня християни готуються заздалегідь. Віряни дотримуються Великого посту, обмежуючи себе у харч

4664 1
09.04.2020

Наразі церква вивчає різні механізми освячення паски.

1691
09.04.2020

Отець і Глава Української Греко-Католицької Церкви Блаженніший Святослав у спеціальному зверненні дав детальні поради щодо поведінки у храмі на Страсний тиждень та Великдень, зокрема щодо сповіді і причастя, та оголосив диспензи (звільнення) Церкви усім в

1732
19.05.2020

Наш дзвінок застав композитора Ігоря Іванціва в Бурштині, де він живе, працює і творить. Простий, приємний співбесідник, з прекрасним почуттям гумору, повен життєвих сил та настрою.

882