Встретились как-то в ресторане три друга: оптимист, пессимист и реалист. А там вместо официантов заказы принимают роботы.
Пессимист: Только этого не хватало! Скоро вообще людей не увидим, будут только железяки… Сначала они вам «облегчают жизнь», затем забирают наши рабочие места, а в конце концов поработят нас! Так оно и будет, помяните мои слова.
Реалист (вздыхает и подзывает официанта): Можно мне чашку кофе?
Оптимист: Ну началось… Что не день, то новый заговор. Никто порабощать нас не будет. Машины работают в рамках алгоритмов, которые задает человек. Робот не может «взбунтоваться», как минимум потому, что не он ставит себе цели и выбирает приоритеты. Да и сам процесс обучения у машин сильно отличается от человеческого. Дети учатся, потому что у них есть желание учиться и подражать старшим и всем вокруг. К нашему счастью, роботы не способны на такое. Они учатся, выполняя поставленную перед ними человеком задачу, а не потому, что им интересно. Машине требуется огромное количество данных, чтобы выполнить элементарную для человека задачу.
Пессимист: Ты новости что ли вообще не читаешь? Вот, например: ученые из Калифорнийского университета создали нейросеть, которая научила робота ходить всего за час! Вопрос не в том, как быстро машины научатся что-либо делать, а в том, что рано или поздно любые действия роботы будут выполнять лучше людей. Они не устают, им не нужны деньги, еда. В конце концов, у них нет личных целей и мотивов.
А что касается задачи… Слышал про «теорию скрепок» Ника Бострома? Ты ставишь перед роботом задачу делать скрепки любыми способами, и все вроде хорошо. Но спустя какое-то время робот начнет видеть угрозу в человеке, - ведь человек может выключить его, и тем самым не даст выполнить поставленную задачу. Допустим, что человек решил, что ему больше не нужны скрепки. И что тогда делать роботу? Ведь перед ним стоит задача - делать скрепки - и он должен ее выполнить. Вот тебе и конфликт! Робот, конечно же, сделает все ради выполнения задачи и просто изведет человечество.
Реалист: Простите, но почему человек просто не назначил определенное количество скрепок, которое нужно сделать? Да и как робот поймет, что его могут выключить?
Оптимист: Отличный вопрос, мой друг! В том то и дело, что робот этого никак не поймет, а поэтому и не стоит волноваться из-за них. Про это здорово написано в новой книге философов Барри Смита и Джобста Ландгребе «Почему машины никогда не будут править миром: искусственный интеллект без страха». Они напоминают, что наука до сих пор не выяснила, как работает мозг, как мы осознаем, желаем и мыслим. Пока не будет точной математической модели этих процессов, невозможна и их машинная реализация. Как человеку создать самостоятельного робота, обладающего свободой воли, если мы сами не понимаем что такое свобода воли? Думаю, и не поймём, поэтому машины никогда не станут разумными, как бы нам этого не хотелось.
Реалист: Подождите, вы сейчас голословны. Да, сейчас мы не знаем, как устроен человеческий мозг, а век назад люди не знали, что такое антибиотики. Неужто вы так сильно не верите в наших ученых?
Пессимист: Именно… Тем более, что у нас уже есть нейросети, которые, работают как что? Правильно, как нейроны в нашем мозге. И хочу напомнить вам, что они уже умеют создавать музыку, писать картины, и писать курсовые лучше среднего человека. Речь не о гипотетическом будущем, - все эти умные вещи, роботы и чат-боты уже вытесняют нас из жизни. Вон, в Японии машину включили в совет директоров компании Deep Knowledge, - чтобы ИИ находил тенденции, которые сотрудники упускают. Но и самым массовым профессиям угрожает реальная опасность. В России уже есть первые роботы-курьеры, - легко представить, что будет дальше!
Реалист: Говорят, даже журналисты в опасности. Я слышал, что в Associated Press нейросети уже пишут финансовые новости. Но мне кажется, люди так просто не отдадут свои рабочие места. Уже сейчас идут забастовки из-за увольнения сотрудников.
Оптимист: Вот и я про это. Общество массовой потери рабочих мест не допустит. Тем более, уже давно есть кодексы по работе с ИИ. В них сказано, что основной принцип – это использование их там, где это необходимо. Да и оставлять это процесс на самотек никто не будет. Разработкой подобных вещей занимаются люди, которые понимают всю важность этого процесса. В научной среде даже занимаются проблемами «робоэтики», - в рамках этой дисциплины анализируют угрозы при разработке роботов.
Пессимист: Думаете, что если вы дадите роботу прочитать этические кодексы, то он приобретет сочувствие к нам? Скорее они воспользуются этим, - заставят нас чувствовать свою вину за то, что мы их держим в рабстве.
Знаете в чем основное отличие машин от человека? Роботы не допускают ошибок. А чем более развиты наши технологии, тем легче человеческая ошибка может привести к катастрофе, даже погубить человечество. Без них мы просто не выживем, хотя и с ними тоже… Да уже и сейчас без умных помощников никуда, без смартфона выжить непросто. Человечество лениво, и сделает все, чтобы у него было как можно меньше работы.
Реалист: Друзья, а что, если искусственный интеллект уже существует, а мы просто не знаем об этом? Мы оцениваем, разумно существо или нет исходя из того, что мы, люди, считаем разумом. Но, что если интеллект у робота не похож на человеческий? Может быть, общаться с машинами – даже труднее, чем, допустим, с кальмаром. Но мы же не будем утверждать, что кальмары неразумны.
Тут наши герои задумались. Молчание прервал незнакомец, который давно прислушивался к разговору.
Незнакомец (оборачиваясь): Прошу прощения, что встреваю. Но мне кажется, что сегодня ИИ открывает перед человечеством огромные перспективы, и одновременно является одной из главных угроз для цивилизации. Нам нужно научиться контролировать и регулировать его, - я как раз работаю над этой проблемой. Но боюсь, компании в погоне за прибылью будут заменять сотрудников роботами и забудут про опасности, которые исходят от искусственного интеллекта. Мне кажется, хороший выход у человечества только один - нейрочипы, позволяющие людям усиливать свой естественный интеллект искусственным. Впрочем, у нас есть и запасной план: если роботы захватят Землю, мы уже будем осваивать Марс, - главное успеть...
Реалист (подозрительно смотря на незнакомца): У вас лицо очень знакомое, где же я мог вас видеть… Да и голос тоже… Вы случайно не…
Крепкий мужчина в штатском (выходит из тени): Ага, умник, ты еще в твитере напиши об этом! (к незнакомцу): Ваша Тесла подана!
Реалист (вздыхает и подзывает официанта): Можно мне чашку кофе?
Оптимист: Ну началось… Что не день, то новый заговор. Никто порабощать нас не будет. Машины работают в рамках алгоритмов, которые задает человек. Робот не может «взбунтоваться», как минимум потому, что не он ставит себе цели и выбирает приоритеты. Да и сам процесс обучения у машин сильно отличается от человеческого. Дети учатся, потому что у них есть желание учиться и подражать старшим и всем вокруг. К нашему счастью, роботы не способны на такое. Они учатся, выполняя поставленную перед ними человеком задачу, а не потому, что им интересно. Машине требуется огромное количество данных, чтобы выполнить элементарную для человека задачу.
Пессимист: Ты новости что ли вообще не читаешь? Вот, например: ученые из Калифорнийского университета создали нейросеть, которая научила робота ходить всего за час! Вопрос не в том, как быстро машины научатся что-либо делать, а в том, что рано или поздно любые действия роботы будут выполнять лучше людей. Они не устают, им не нужны деньги, еда. В конце концов, у них нет личных целей и мотивов.
А что касается задачи… Слышал про «теорию скрепок» Ника Бострома? Ты ставишь перед роботом задачу делать скрепки любыми способами, и все вроде хорошо. Но спустя какое-то время робот начнет видеть угрозу в человеке, - ведь человек может выключить его, и тем самым не даст выполнить поставленную задачу. Допустим, что человек решил, что ему больше не нужны скрепки. И что тогда делать роботу? Ведь перед ним стоит задача - делать скрепки - и он должен ее выполнить. Вот тебе и конфликт! Робот, конечно же, сделает все ради выполнения задачи и просто изведет человечество.
Реалист: Простите, но почему человек просто не назначил определенное количество скрепок, которое нужно сделать? Да и как робот поймет, что его могут выключить?
Оптимист: Отличный вопрос, мой друг! В том то и дело, что робот этого никак не поймет, а поэтому и не стоит волноваться из-за них. Про это здорово написано в новой книге философов Барри Смита и Джобста Ландгребе «Почему машины никогда не будут править миром: искусственный интеллект без страха». Они напоминают, что наука до сих пор не выяснила, как работает мозг, как мы осознаем, желаем и мыслим. Пока не будет точной математической модели этих процессов, невозможна и их машинная реализация. Как человеку создать самостоятельного робота, обладающего свободой воли, если мы сами не понимаем что такое свобода воли? Думаю, и не поймём, поэтому машины никогда не станут разумными, как бы нам этого не хотелось.
Реалист: Подождите, вы сейчас голословны. Да, сейчас мы не знаем, как устроен человеческий мозг, а век назад люди не знали, что такое антибиотики. Неужто вы так сильно не верите в наших ученых?
Пессимист: Именно… Тем более, что у нас уже есть нейросети, которые, работают как что? Правильно, как нейроны в нашем мозге. И хочу напомнить вам, что они уже умеют создавать музыку, писать картины, и писать курсовые лучше среднего человека. Речь не о гипотетическом будущем, - все эти умные вещи, роботы и чат-боты уже вытесняют нас из жизни. Вон, в Японии машину включили в совет директоров компании Deep Knowledge, - чтобы ИИ находил тенденции, которые сотрудники упускают. Но и самым массовым профессиям угрожает реальная опасность. В России уже есть первые роботы-курьеры, - легко представить, что будет дальше!
Реалист: Говорят, даже журналисты в опасности. Я слышал, что в Associated Press нейросети уже пишут финансовые новости. Но мне кажется, люди так просто не отдадут свои рабочие места. Уже сейчас идут забастовки из-за увольнения сотрудников.
Оптимист: Вот и я про это. Общество массовой потери рабочих мест не допустит. Тем более, уже давно есть кодексы по работе с ИИ. В них сказано, что основной принцип – это использование их там, где это необходимо. Да и оставлять это процесс на самотек никто не будет. Разработкой подобных вещей занимаются люди, которые понимают всю важность этого процесса. В научной среде даже занимаются проблемами «робоэтики», - в рамках этой дисциплины анализируют угрозы при разработке роботов.
Пессимист: Думаете, что если вы дадите роботу прочитать этические кодексы, то он приобретет сочувствие к нам? Скорее они воспользуются этим, - заставят нас чувствовать свою вину за то, что мы их держим в рабстве.
Знаете в чем основное отличие машин от человека? Роботы не допускают ошибок. А чем более развиты наши технологии, тем легче человеческая ошибка может привести к катастрофе, даже погубить человечество. Без них мы просто не выживем, хотя и с ними тоже… Да уже и сейчас без умных помощников никуда, без смартфона выжить непросто. Человечество лениво, и сделает все, чтобы у него было как можно меньше работы.
Реалист: Друзья, а что, если искусственный интеллект уже существует, а мы просто не знаем об этом? Мы оцениваем, разумно существо или нет исходя из того, что мы, люди, считаем разумом. Но, что если интеллект у робота не похож на человеческий? Может быть, общаться с машинами – даже труднее, чем, допустим, с кальмаром. Но мы же не будем утверждать, что кальмары неразумны.
Тут наши герои задумались. Молчание прервал незнакомец, который давно прислушивался к разговору.
Незнакомец (оборачиваясь): Прошу прощения, что встреваю. Но мне кажется, что сегодня ИИ открывает перед человечеством огромные перспективы, и одновременно является одной из главных угроз для цивилизации. Нам нужно научиться контролировать и регулировать его, - я как раз работаю над этой проблемой. Но боюсь, компании в погоне за прибылью будут заменять сотрудников роботами и забудут про опасности, которые исходят от искусственного интеллекта. Мне кажется, хороший выход у человечества только один - нейрочипы, позволяющие людям усиливать свой естественный интеллект искусственным. Впрочем, у нас есть и запасной план: если роботы захватят Землю, мы уже будем осваивать Марс, - главное успеть...
Реалист (подозрительно смотря на незнакомца): У вас лицо очень знакомое, где же я мог вас видеть… Да и голос тоже… Вы случайно не…
Крепкий мужчина в штатском (выходит из тени): Ага, умник, ты еще в твитере напиши об этом! (к незнакомцу): Ваша Тесла подана!