агенція новин

Google розробив «червону кнопку» для екстреного відключення штучного інтелекту

 

/data/blog/110168/901fe53e2e57b8e84e1e9380922eb5a7.jpg

 

Тема безпеки розробок штучного інтелекту турбує Елона Маска, Стівена Хокінга та інших відомих особистостей, який заявляють про потенційну загрозу людству з боку машин.

 

Щоб уникнути потенційної небезпеки, дослідницька компанія Google DeepMind об’єдналася з вченими Оксфордського університету для розробки системи аварійного відключення ШІ, повідомляє Business Insider з посиланням на роботу, яка опублікована на сайті Інституту вивчення машинного інтелекту (MIRI).

 

«Якщо такий агент [штучний інтелект] працює в реальному часі під наглядом людини, зараз і надалі у оператора може виникнути необхідність натиснути на велику червону кнопку, щоб запобігти виконанню агентом небезпечних для нього або оточення дій», – йдеться в роботі вчених.

 

Дослідники стверджують, що їм вдалося розробити «фреймворк», який дозволяє оператору багаторазово і безпечно переривати роботу ШІ. У той же час мета роботи вчених – також упевнитися, що ШІ не зможе знайти способів обійти і запобігти власному аварійному відключенню.

 

Метою компанії DeepMind, купленої Google в 2014 році за суму близько $580 млн, є створення сильного штучного інтелекту (здатного виконувати будь-які завдання, з якими справляється людина).

 

Однією з умов покупки компанії корпорацією було створення ради з етики штучного інтелекту, так як його створення може потенційно нести небезпеку для людства.

 

Дослідженням саме таких небезпек і займається Інститут вивчення машинного інтелекту. Його очолює відомий фахівець в області ШІ філософ Нік Бострем, який стверджує, що машини перевершать людину в найближчі 100 років.

Підписуйтесь на канал Фіртки в Telegram , читайте нас у Facebook і Twitter , щоб першими дізнаватися про ключові події дня


10.07.2016 608 0
Коментарі (0)

Çàãðóçêà...

16.07.2019
Люся Грибик

Рік за роком, рік за роком і юна співачка з Івано-Франківська потрапила на велику сцену популярного шоу. 

547
11.07.2019

Зіновія Андрійовича у Надвірній знають багато років. Номер його мобільного — ніколи не був для мешканців загадкою, а двері його кабінету може вільно відчинити.

409
11.07.2019
Наталія Кушніренко

Андрій Іванчук - кандидат до Верховної Ради України по 88 виборчому округу, який охоплює Коломийський і Городенківський райони. Самовисуванець, 46 років.

558 1
10.07.2019

Володимир Зеленський назвав ймовірного очільника Івано-Франківської ОДА. Цю посаду може отримати чинний директор Бурштинської ТЕС Денис Шмигаль.

6951 1
10.07.2019

Говоримо з Оксаною Савчук про депутатську діяльність, нову якість політики і навіщо у парламенті представник від Франківська.

529
09.07.2019
Марія Лутчин

«Паттерн» – український кінотрилер з драматичним і динамічним сюжетом. Тут і гламур, і бійки, і погоні, і вбивство, і невидимі впливи таємних режисерів, і любов, яка перемагає.

1150

Наше ставлення до поточних подій залежить від точки зору. Східні філософи казали про бачення з мишачої нори...

1055

Ця публікація - практикум на тему "що робити".

1926 1

Недавно відмічали, за різною психологією, свято Перемоги і День Пам'яті.

1252

Карлос Кастанеда свого часу зауважив важливість того соціального імпульсу, що йде від дрібних (а хтось скаже – “побутових”) тиранів.

1364
28.06.2019

У США група сенаторів і заступник голови комітету Сенату з розвідки провели секретні слухання.

955
20.06.2019

Перед катастрофою в Чорнобилі робочі атомної електростанції нібито помітили в небі над містом містичне створіння.

1397 2
19.06.2019

Президент США Дональд Трамп засумнівався в існуванні невпізнаних літаючих об'єктів (НЛО) усупереч заявам американських пілотів про літальні апарати невідомої приналежності.

723
12.07.2019

На парафії святих Апостолів Петра і Павла у селі Старуня Богородчанського району відсвяткували храмове свято.

828
04.07.2019

У храм Святих Кирила і Методія у Крихівцях привезуть мощі Святого Апостола Юди Тадея для привселюдного вшанування.

797
06.06.2019

До мудреця прийшов воїн і сказав: − Послухай, я вже немолодий, багато часу провів у боях, і знаю, що смерть може наздогнати мене...

1713 1
18.07.2019

Тіна Кароль радує фанатів відвертими знімками, залишивши в минулому образ скромниці.

1139
18.07.2019

Фіртка вирішила поцікавитися, наскільки товстим має бути гаманець абітурієнта, щоб сісти на студентську лаву у місцевих ВНЗ.

14127
15.07.2019

Фіртка повідомляла, що у квітні минулого року міністр інфраструктури України Володимир Омелян вніс у Кабмін подання про звільнення з посади голови Укртрансбезпеки Михайла Ноняка.

7665
14.07.2019

Пресслужба Тіни Кароль спростовує інформацію про виступ співачки в агітаційному концерті у Бахмуті.

1453