PROINTELLEKT
PROINTELLEKT

SOS: УГРОЗА ЧЕЛОВЕЧЕСТВУ

Александр Потемкин,  29 января в 17:16 0 2681

Андроид София – первый  в мире робот, получивший паспорт  гражданина Саудовской Аравии. София обладает искусственным интеллектом, оснащена функциями обработки визуальной информации и технологией распознавания лиц, говорит на английском и русском языках.  Она стала широко известна благодаря своему человекоподобному внешнему виду и поведению. Эти факты дают мне все основания полагать, что к 2050 году андроиды станут гражданами самых разных государств мира.

В прошлом году китайский инженер вступил в брак с роботом собственного производства, которого назвал Ин Ин. И если сейчас эта новость читается скорее как шутка или казус, то в 60-е годы 21 века брак с андроидом будет обычным явлением.

Мой прогноз (я уже публиковал его): оценивая биоинтеллект и ИИ, можно отметить, что сегодня они приблизительно равны – 100 HIC (показатель высшего выражения сознания). Впрочем, если в совершенствовании ИИ участвует более миллиона человек (данные сети Интернет), и только 3% из них являются подлинными творцами «разума» ИИ, то через каждые 10 лет они станут обогащать HIC ИИ каждый на  0,01 HIC, к 2027 году потенциал HIC искусственного интеллекта будет равен 300 HIC, к 2037 году уже 600  HIC, к 2047 году 900, а в 2057 году составит 1200 HIC и т.д., и т.д. И это лишь пессимистический прогноз. При этом HIC человека останется прежним. ИИ будет в 15 раз умнее БИ. Какие в таком случае шансы у БИ на совместное проживание? 

В этих условиях сохранить род человеческий невозможно. Он исчезнет. Скорее всего, последний человек закончит своё пребывание на планете в 2191 году.

Приведу следующие цифры: европейские банки только в 2016 году закрыли 9,1 тысячи отделений и сократили около 50 тысяч сотрудников: технологии берут на себя рутинную работу, а клиенты предпочитают онлайн-обслуживание. Из-за этого в ближайшие 10 лет глобальная финансовая сфера лишится ещё 1,7 млн сотрудников.  В Индии уже к  2020 году из 4 миллионов программистов половина будет сокращена, так как их работу станут выполнять алгоритмы. Более трех миллионов россиян, занимающих должности бухгалтеров, юристов, административных сотрудников и специалистов по кадрам, станут не востребованы в ближайшие 5 лет. К 2050 году работу потеряют 50 процентов служащих в развитых странах мира.

Искусственный интеллект будет постоянно находиться в тренде собственного развития. В то время как человек не желает сам себя совершенствовать. Но время пока есть.

Поэтому я лично обращаюсь на всех языках во все высшие инстанции со следующей идеей: провести дискуссию об ограничении развития искусственного интеллекта на площадке ООН. Только объединившись, можно выработать те принципы, которые защитят человечество, направят разработки в сфере ИИ и глобальной автоматизации в безопасном русле.

Неоспорим тот факт, что сегодня каждому из нас приходится пользоваться помощью искусственного интеллекта – находясь ли в социальных сетях, обращаясь к  банковским сервисам, погружаясь в мир видеоигр или решая бытовые вопросы – вызывая такси, записывая ребёнка в детский сад, проверяя электронный дневник, просматривая штрафы за неправильную парковку. Мы приветствуем использование электронного документооборота, ботов-помощников, «умных» домов и других новинок технической мысли, которые облегчают нашу повседневную жизнь. Однако не все обращают внимание на последствия человеческой зависимости от машинных алгоритмов.

С каждым днём интернет-технологии превращаются в неуправляемую массу программ, постоянно получающих и обрабатывающих данные, а главное – уже принимающих решения за нас. Теперь не мы сами, а Интернет задаёт нам жизненные направления и стандарты. Искусственный интеллект беспрерывно учится имитировать большую часть человеческой деятельности — и физической, и интеллектуальной, претендуя не только на наши рабочие места, но на саму человеческую природу.

Задумываемся ли мы также о том, что власть менять общество переходит к корпорациям, инвестирующим в развитие ИИ, а также непосредственно к тем, кто занимается проектированием систем будущего –  к разработчикам программного обеспечения, специалистам по искусственному интеллекту и робототехнике?

Компьютерные системы все глубже проникают в нашу повседневную жизнь, противоречия между дополненным интеллектом и искусственным интеллектом становятся все более заметными. Какими будут взаимоотношения между людьми и мыслящими машинами? Какие факты уже должны нас настораживать и свидетельствовать о необходимости нашего скорейшего вмешательства?

Только мы, люди, ответственны за мир будущего и за мир настоящего, который  создаётся сегодня.

  1. 116 специалистов, включая Илона Маска, по разработке искусственного интеллекта из 26 стран написали открытое письмо к ОНН против разработки автономного оружия.  

ОТКРЫТОЕ ПИСЬМО К КОНВЕНЦИИ ОРГАНИЗАЦИИ ОБЪЕДИНЕННЫХ НАЦИЙ ОБ УПОТРЕБЛЕНИИ ОПРЕДЕЛЁННОГО ВИДА ОРУЖИЯ

Мы, как компании, развивающие технологии в области искусственного интеллекта и робототехники, понимаем, что эти технологии могут быть использованы для разработки автономного оружия. Именно поэтому мы несём на себе особую ответственность.

Мы тепло приветствуем решения Конференции ООН, касающиеся Конвенции об использовании определённых видов оружия о создании Группы правительственных экспертов (ГПЭ) по системам смертоносных автономных оружий. Многие наши учёные и инженеры жаждут предложить свои технические решения.

…Смертоносное автономное оружие грозит стать третьей революцией в военном деле. Такое оружие позволит вооруженному конфликту вести борьбу в огромном масштабе. Это может быть самая сокрушительная и быстрая война. Технологии могут стать оружием террора, оружием, которое деспоты и террористы могут использовать против невинного населения. Нам нельзя медлить. Как только ящик Пандоры откроется, закрыть его будет практически невозможно. Именно поэтому мы призываем Договаривающиеся Стороны найти способ защитить нас всех от этой опасности.                               


                                                                                       

  1. Во время эксперимента, проводимого программистами Facebook в 2017 году, в ходе которого двум чат-ботам предлагалось поделить между собой три мяча, две книги и одну шляпу, произошло непредвиденное: боты изобрели собственный язык.

Боб: «Я могу я я все остальное».

Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».

Специалисты утверждают, что этот диалог отнюдь не бессмыслица: боты сочли такую речевую конструкцию более удобной, чем привычный нам английский язык. 


  1. Исследование, проведенное Boston Consulting Group (BCG) в 112 странах показало, что 50% сотрудников ожидают сокращений в ближайшие 5 лет в связи с внедрением технологий искусственного интеллекта.
  1. Банк Societe Generale объявил о сокращении 15% своих отделений и 900 рабочих мест к 2020 за счет внедрения ИИ. Ранее, банки UniCredit, JP Morgan уже объявили о сокращении филиалов по той же причине.
  1. Опасен тот факт, что ученые разрабатывают крайне продвинутые системы ИИ, чтобы бороться с «плохими хакерами». Делая это ради общего блага, они признают, что в чужих руках их сверхразумные системы будут сеять хаос и разрушения.
  1. Эксперты из Microsoft Application and Services Group в Восточной Азии создали искусственную программу, которая может «испытывать» эмоции и разговаривать с людьми «по-человечески». ИИ по имени Xiaoice отвечает на вопросы, как 17-летняя девочка. Если она не знает тему, она может приврать. Если уличить ее во лжи, она разозлится или смутится.
  1. Робот София стала гостьей  делового завтрака Сбербанка на Всемирном экономическом форуме в Давосе. В ходе встречи обсуждалась тема перспектив развития искусственного интеллекта в мире. Герман Греф спросил робота о том, не стоит ли ограничить развитие искусственного интеллекта.

         "Людям не стоит отвергать эти изменения, но доля здоровой критики не помешает. Не судите о нас по таким фильмам, как "Терминатор" – ответила Софи.


Итак, использование ИИ в нашей жизни стало необратимым процессом.

Отказаться от него сегодня так же невозможно, как и остановить технический прогресс. Развитие «слабого» или прикладного интеллекта, предназначенного для автоматизации решения одной или нескольких задач, набирает обороты и уже несет за собой социальные последствия. Что ожидать от создания «сильного» гипотетического искусственного  интеллекта, способного решать неограниченный круг интеллектуальных задач? Кто обеспечит контроль во избежание массового нарушения прав человека, кто отвечает за разработку законодательной базы порядка управления и использования ИИ, кто определяет и утверждает регламенты безопасности, кто проводит аудит использования ИИ?

Прошу вас поддержать мое обращение по созданию обсуждения этой наиглавнейшей темы сегодняшнего дня на национальных и международных площадках. 

 

Президентам России, Китая, США, канцлеру ФРГ,

премьер-министрам Израиля, Испании, Грузии,

другим главам правительств,

 

всем лауреатам Нобелевской премии,

президентам национальных Академий наук,

 

Главному раввину России Берл Лазару,

Его Святейшеству Папе Римскому Франциску,

Его Святейшеству

Патриарху Московскому и всея Руси Кириллу,

Святейшему и Блаженнейшему

Католикосу-Патриарху всея Грузии Илии II,

Председателю Совета муфтиев России,

Председателю президиума Духовного управления

мусульман Азиатской части России

Верховному муфтию,

Сопредседателю Совета муфтиев России,

Шейху Нафигулле Аширову,

Главе традиционной буддийской сангхи России

XXIV Пандито Хамбо ламе Дамбе Бадмаевичу Аюшееву

 

 

УВАЖАЕМЫЕ ДАМЫ И ГОСПОДА!

Принадлежность к интеллектуальной и социальной элите современности должна побудить вас высказаться по наиважнейшему вопросу нашей цивилизации: созданию смертоносной для всего человечества технологии — искусственного интеллекта. Сегодня мир наблюдает, как стремительное техногенное развитие приводит к глубокой трансформации всей среды обитания человека. На наших глазах происходят кардинальные изменения  не  только  экологического  и технического ландшафта бытия, но и информационно-коммуникативной сферы. Процесс этот не носит экстенсивного характера — это не просто расширение технико-экономических возможностей человека за счет мобилизации новых ресурсов экосферы. Нет, ему присущ качественный, интенсивный размах, что затрагивает самую сущность гомо сапиенс — сферу его разума.

Уверенность в том, что создаваемые системы искусственного интеллекта представляют реальную угрозу для человечества, разделяют многие ученые. Однако мы убеждены в том, что данную серьезнейшую проблему будущего мира необходимо вынести на публичную площадку — ведь именно выдающиеся личности из сфер науки и религии накопили огромные знания о человеке, именно они способны предложить безболезненный для человека путь развития робототехники. Иначе неконтролируемые разработки и производство искусственного интеллекта станут преображать окружающую среду столь стремительно, что массовый человек будет вытеснен, порабощен или уничтожен. «Не существует такого закона физики, который препятствовал бы взаимодействию частиц для создания искусственным интеллектом собственных и полностью самостоятельных логических комбинаций, недоступных для человеческого мозга», — считает знаменитый физик Стивен Хокинг.

Вопросы искусственного интеллекта — одна из наиболее динамично развивающихся отраслей междисциплинарного знания. Когнитивной основой  подобных исследований являются новейшие эксперименты в изучении мозговых структур: нейронных сетей, известных как зеркальные нейроны, отвечающих за обучение и коммуникацию, а также более сложных многомерных сетевых структур организации мозга (коннектомов и когнитомов). Уже сегодня молодая и закрытая компания Vicarius (США) создает цифровую модель неокортекса (новой коры искусственного головного мозга), способного к сенсорному восприятию, осознанному мышлению и речи. При достижении этой цели не только рынок труда будет кардинально изменен, поскольку с него окажутся вытесненными сотни миллионов и даже миллиарды людей. Наступит такой уровень развития ИИ, при котором человек станет у него роботом или исчезнет вообще. Неуправляемое развитие ИИ представляет потенциально большую опасность, чем ядерное оружие, любые другие вызовы современности. Наука должна служить людям, а не вытеснять человека. Если искусственный интеллект будет находиться в постоянном развитии, то сам человек, без вмешательства биотехнологий, не сможет достичь его уровня. По нашим прогнозам, к 2035 году только люди с высшим образованием потеряют более 300 миллионов рабочих мест, а к 2070 эта цифра составит почти миллиард. Куда денется человек? Кроме нашей планеты, ему негде жить.

Государства же не вкладывают инвестиции в программы, направленные на развитие биоинтеллекта. Генная инженерия вообще не приступала к работе над подобными проектами. В конце концов, искусственный интеллект вытеснит человека. Чтобы этого не произошло, следует воспользоваться методами генной инженерии и органическими средствами (приборы нанопинцет и сборщик атомов могут эффективно служить данной цели). Кроме того, в самое ближайшее время требуется законодательно ограничить развитие искусственного интеллекта.

Мы с болью замечаем, что ИИ прочно внедряется в нашу жизнь на высоких скоростях. «Поколение пепси» уже сегодня отождествляет себя с системой «я и гаджет», искренне находя такой синтез «крутым» и модным. Происходит психологическое привыкание людей к общению с ним, закрепляется зависимость от него и полное ему подчинение. Подобное «расчеловечивание», увы, прогнозируемый результат бездумной и безответственной надстройки — искусственного интеллекта над естественным сознанием. Киберзависимость противоречит системе аксиологии (добро — зло) человека, его моральным и религиозным воззрениями.

Сегодня для человечества жизненно важен и неотложно необходим диалог о путях определения границ развития искусственного интеллекта. Ведь чем выше его доля в сфере цивилизации, тем ниже реальные возможности людей реализовывать личностный потенциал, удовлетворять свои потребности в свободе, творчестве, любви, самовыражении. Человечество оказалось на пороге экзистенциального риска — искусственный интеллект угрожает гибелью разумной жизни.

Мы призываем вас и всех других авторитетных ученых, а также лидеров общественного мнения и глав мировых религий собраться (ждем от вас рекомендаций по месту проведения встречи) для первых консультаций по противодействию выполнению обширных программ развития искусственного интеллекта. Ведь бизнес наращивает темп инвестиций в проекты развития ИИ. Но человечество возникло без инвестиционного проекта. Неужели нажива станет могильщиком нашего общего рода?

Роботы, манипуляторы — конечно, да! Неограниченное развитие искусственного интеллекта –  категорически нет!

Эта наиважнейшая проблема современности остро нуждается в вашем участии, помощи и мыслях.

Александр Потёмкин,

профессор МГУ им. Ломоносова, доктор

Адрес для контактов:  

apotemkin25@gmail.com

Ассистенты:

Mila Rothschild
rr@dfhi.de                                                              

 

 

 

 

 

Мария Скрягина
info@prointellekt.com

Это обращение на всех языках мира - английском, немецком, французском, китайском, японском, польском, сербском, испанском и других - направлено во все центральные газеты во всех странах мира. 

PS. Читайте о проблеме искусственного интеллекта в моём романе "Соло Моно. Путешествие сознания пораженца"

 

 

 

КОММЕНТАРИИ

Авторизуйтесь чтобы оставлять комментарии