Kitabı oku: «Философские проблемы развития искусственного интеллекта», sayfa 2
И самым главным и наиболее страшным последствием, которое выделяют эксперты, может стать уничтожение человечества. Многие специалисты утверждают, что успех в развитии искусственного интеллекта может стать началом конца человеческой цивилизации. Почти любая технология, попадая в злостные руки, обнаруживает потенциальные возможности для причинения вреда, но, когда речь идет об искусственном интеллекте и робототехнике, возникает новая проблема, связанная с тем, что эти злонамеренные руки могут принадлежать самой технологии. Так существует множество научно-фантастических произведений, фантазирующих на данную тему. Например, Трилогии «Терминатор» и «Матрица», в которых показывается возможная картина дальнейшего будущего для человечества, если мощный искусственный интеллект все-таки будет создан и применен.
Люди иногда используют интеллект в агрессивных формах, поскольку они обладают некоторыми агрессивными врожденными тенденциями обусловленными естественным отбором. Но машины не нуждаются в этом, если только сами люди не захотят спроектировать их для этих целей.
Существует еще одна этическая проблема и проблема свободы, потому что человек будет зависим от искусственного интеллекта, а «свобода человека заключается в том, чтобы следовать одной из сторон своей двойственной природы – и за этот свободный выбор человек несет всю полноту и ответственность». Принимая во внимание, как долго человечество шло к тому, чтобы наделить равными правами всех людей, вне зависимости от цвета их кожи, расы и даже гендера, можно уже сейчас предположить, что и машины они не сходу не признают равными.
Искусственный интеллект также влияет на образовательную деятельность. Следует отметить, что с появлением компьютерных технологий многие дисциплины стали преподаваться дистанционное обучение, а это приводит к отсутствию вербального общения между преподавателем и студентом, а также это привело к сокращению нагрузки преподавателей и сокращению численности профессорско-преподавательского состава. Так что же будет, если робот заменит преподавателя и что станет с системой образования? На наш взгляд, внедрение роботов, выполняющих функцию преподавателя негативно скажется на образовательном процессе, так как именно в школах приобретаются необходимые навыки и знания [5]. Студенты получают знания от преподавателя, общаясь, дискутируя, вступая в диалоги с одногруппниками, тем самым развивается коммуникативные способности, умение поддерживать беседу, речевые навыки. Если все это убрать, то дети просто замкнутся в себе и будут общаться только посредством различного рода гаджетов, при этом информационные технологии вытеснят речь. С другой стороны, если произойдет замена преподавателей роботами, то тысячи преподавателей останутся без работы, среди которых не только учителя в школьных учреждениях, но и преподаватели с кандидатскими степенями. Вместе с этическими появляются и юридические тонкости. Так, например, эксперты спорят, если в будущем машины смогут все-таки осознавать себя придется ли наделять их определенными правами, и что тогда будет делать человека человеком, а машину машиной? И как вообще буду складываться отношения между машинами и людьми? Кто возьмет на себя ответственность, если произойдет авария с участником беспилотного автомобиля или поломка умного медицинского устройства, которая унесет жизнь человека во время операции. Огромное количество нравственных вопросов: стоит ли развивать беспилотное оружие, способное действовать без ведома человека? Поэтому при создании искусственного интеллекта, нужно параллельно задумываться о создании четкой система контроля, которая будет следить за искусственным разумом, и в нужный момент сможет не только предотвратить все аварии, поломки и в непредвиденных случаях смогут исправить все последствия. Ведь сбои были, есть и будут в программах всегда и нельзя исключить такой же сбой даже в сильном искусственном интеллекте, который может привести к серьезным неминуемым последствиям.
Единого ответа, что же такое Искусственный интеллект на сегодняшний день не существует. Каждый автор имеет свою точку зрения. Некоторые считают, что искусственный разум может быть создан на основе нейронных сетей, но именно на текущем этапе развития человечества создать его все равно невозможно, другие вообще в принципе отрицают возможность создания искусственного интеллекта.
Тем не менее, при должной настойчивости любая область интеллектуальной деятельности человека, по крайней мере, если она не носит ярко выраженного творческого характера, может выполняться машиной [7]. Однако конечная цель проекта Искусственный интеллект – создание универсальной «разумной машины», которая могла бы обучаться, подобно человеку, и самостоятельно совершенствовать свое поведение, осваивать новые виды интеллектуальной деятельности. К сожалению, или может быть к счастью, эта цель не достигнута и появляется все больше сомнений в ее принципиальной достижимости. По крайней мере, никакого реального прогресса в создании такого самообучающегося интеллекта достигнуто не было и в ближайшее время не предвидится, по мнению экспертов.
Что касается проблем создания и последствий, то, на мой взгляд, с изобретением чего-либо всегда возникали проблемы, и они постоянно несли, как и позитивные, так и негативные последствия. Но эти проблемы всегда решаемы, а последствия исправляемы [4]. Общество развивается, ему необходим прогресс, поэтому создание искусственного разума, если не в ближайшем будущем, то в дальнейшем попросту неизбежно. Кроме того, не стоит бояться всех перечисленных выше последствий. Многие специалисты, задействованные в данный момент в разработке систем искусственного интеллекта, охотно признают, что машины не скоро сделают людей ненужными. Именно потому, что искусственный интеллект еще не настолько «умён». Главное, чего ему на сегодняшний день не хватает – автономной возможности думать.
Но кое-что уже происходит: понемногу стирается грань между работой или задачей, выполненной человеком, и задачей, выполненной машиной. Сейчас иногда сложно понять, кто сидит внутри системы – человек или программа.
Таким образом, по нашему мнению, сильный искусственный интеллект в ближайшее время создан не будет. Но на данный момент, уже создано много технологий искусственного интеллекта, которые несомненно влияют на человека и общество в целом.
Литература
1. Айер А. Язык, истина и логика. М: «Канон+» РООИ «Реабилитация», 2010. – С. 140.
2. Сирл Дж. Разум мозга – компьютерная программа? // В мире науки (Scientific American. Издание на русском языке). – № 3. – 1990. – М.: Мир, 1990.
3. Сёрль Дж. Рациональность в действии / Пер. с англ. А. Колодия, Е. Румянцевой. – М.: Прогресс-Традиция, 2004. – 336 с.
4. Васильев В.В. Трудная проблема сознания. – М., Прогресс-Традиция, 2009. – 272 с.
5. Замараева Е.И. Виртуализация современной реальности в аспекте дегуманизации информационного общества // Научно-техническая революция: 4:0 / Материалы Международной междисциплинарной научно-практической конференции / Под ред. Н.А. Ореховской, С.В. Назаренко, А.В. Волобуева, Л.Б. Омаровой. – Казань: Отечество, 2018. – 174 с.
6. Кузина Е.С. Образование и современный этап научно-технической революции // Научно-техническая революция: 4:0 / Материалы Международной междисциплинарной научно-практической конференции / Под ред. Н.А. Ореховской, С.В. Назаренко, А.В. Волобуева, Л.Б. Омаровой. – Казань: Отечество, 2018. – С. 47
7. Ореховская Н.А. Массовое сознание как объект информационно-коммуникативных PR-технологий: Монография. – М.: Международный изд. центр Этносоциум, 2010. – 156 с.
1.2. Искусственный интеллект и будущее человека
Искусственный интеллект в последнее время приобрел большое значение и стал исключительно актуальным. Президент В. Путин, выступая перед школьниками и студентами (1 сентября 2017 г., Ярославль), сказал, что «искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые угрозы»; «тот, кто станет лидером в этой сфере, будет властелином мира». На заседании Совета по науке и образованию (8 февраля 2018 г., Новосибирск) президент призвал к лидерству в сфере искусственного интеллекта, через призму которого он увидел Россию, устремленную в будущее.
Отчасти сходная ситуация наблюдается или перекликается в современной Франции. Здесь французский президент Э. Макрон 29 марта 2018 года выступил перед парламентом с докладом об искусственном интеллекте, в котором излагается и раскрывается стратегия дальнейшего развития страны. Президент убежден, что Франция имеет все необходимое, чтобы стать лидером в сфере искусственного интеллекта. Поэтому, несмотря на то, что, как отмечает газета Le Monde, на сегодня 18 млн. французов, или более четверти французского населения, плохо или совсем не владеют компьютером, будущее Франции четко определено: «цифровое включение – главная цель общества» [4, с. 7].
Для достижения поставленной цели, по инициативе президента, из бюджета выделяется 1,5 млрд евро. Выдвигаются более конкретные задачи: тройное увеличение к 2020 году лиц, получивших образование в сфере искусственного интеллекта. Повышение стипендии студентов и зарплаты молодых специалистов. Увеличение стипендии для иностранных студентов. Особое внимание уделяется феминизации образования: сейчас доля девушек, получающих образование в сфере искусственного интеллекта, составляет 10 %, ставится задача довести эту долю до 40 %.
Современный искусственный интеллект (ИИ) возник в середине XX века, хотя путь к нему начинался из далекой древности, из неолита.
В послевоенные годы исключительный вклад в развитие вычислительной техники и искусственного интеллекта внес английский математик А. Тьюринг. Уже в первой своей фундаментальной статье «Умные машины» (1947) он утверждает возможность создания искусственного мозга по аналогии с мозгом человека. Считается, что следующая его ключевая статья «Вычислительные машины и интеллект» (1950) представляет собой «настоящий акт рождения искусственного интеллекта» [3, с. 26], хотя в ней признается не столько то, что машина является умной и думающей, сколько то, что она может адекватно имитировать мышление человека. Он также ввел так называемый «тест Тьюринга», позволяющий определять соответствие уровня интеллекта компьютера уровню интеллекта человека, может ли компьютер стать неотличимым от интеллекта человека, подстроившись под его логику и сымитировав ход его мысли. Другими словами, тест означает проверку компьютера на разумность. Благодаря Тьюрингу компьютеры переставали быть простыми вычислительными машинами и становились универсальными машинами, способными имитировать все, включая человеческий интеллект [там же, с. 28].
Сам термин «искусственный интеллект» впервые предложил Дж. Маккарти (1955), а понятие искусственного интеллекта выдвинул М. Мински (1956), определяя его как ««науку, целью которой является осуществление с помощью машины задач, которые человек выполняет, используя свой интеллект» [там же, с. 16]. Сутью искусственного интеллекта является имитация машиной человеческого мышления. В том же 1956 году в Дартмутском университете США состоялась первая научная конференция, которая объявила искусственный интеллект новой областью научных исследований. Наряду с наукой искусственный интеллект является также технологией, выступая при этом одной из самых современных, ведущих и прорывных технологий. В этом плане он решительно преобразует современную промышленность, совершенно так же, как более века назад электричество преобразовало все области промышленности одну за другой. Различают «слабый» искусственный интеллект, который по своему уровню ниже человеческого, и «сильный» искусственный интеллект, который достигает и даже превосходит человеческий интеллект. Он предполагает способность мыслить и осознавать себя, хотя сопереживания и мудрость остаются под вопросом.
Вместе с появлением искусственного интеллекта вокруг него возникла оживленная и даже острая полемика.
Многие авторы выражают прямо противоположные позиции: от полного признания до полного отрицания. Ярким примером положительного отношения к искусственному интеллекту является позиция Р. Курцвейла – американского футуролога и изобретателя, технического директора Google. Билл Гейтс назвал его лучшим из тех, кто занимается предсказанием будущей эволюции искусственного интеллекта. Многие его предсказания сбылись, включая победу компьютера над Г. Каспаровым, чемпионом мира по шахматам; беспроводной доступ к персональному компьютеру и др. Как изобретатель, Р. Курцвейл создал первый планшетный сканер и первую читающую машину для незрячих.
Особенности его концепции во многом обусловлены методологией, где Р. Курцвейл называет себя строгим редукционистом. Редукционизм представляет собой методологический принцип, согласно которому сложные явления могут быть полностью объяснены с помощью законов, свойственных более простым явлениям. В социологии такой подход характерен для натурализма, механицизма и социал-дарвинизма, когда социальные явления объясняются биологическими, механическими или экономическими законами. Принцип редукции означает сведение сложного к простому, высшего к низшему, целого к свойствам частей.
Концепция Р. Курцвейла покоится в основном на трех идеях или понятиях: искусственный интеллект; технологическая сингулярность (единичность); закон ускорения отдачи. Они тесно взаимодействуют между собой, инициативной и ведущей силой при этом выступает искусственный интеллект, без которого технологическая сингулярность невозможна. Курцвейл особо выделяет искусственный интеллект, его эволюцию и развитие. Он также придает особую роль технологической сингулярности.
Все свои надежды Курцвейл возлагает на искусственный интеллект. Он развивает мысль о том, что искусственный интеллект спасет мир. Компьютер станет обладать разумом в человеческом понимании слова. К 2029 году он пройдет тест Тьюринга, доказывая наличие у него разума человеческого уровня. Курцвейл убежден, что создание сверхмощного искусственного интеллекта представляет собой реальный путь решения всех человеческих проблем. Он уверен, что скоро «различие между человеком и машиной начнет размываться, а потом и вовсе исчезнет» [1, c. 256]. Всесильный искусственный интеллект, компьютерный разум – это благо для человека, который последовательно будет превращаться в «постчеловека».
Касаясь эволюции человечества, Курцвейл отмечает, что мы будем становиться все менее биологическими, пока не дойдем до состояния, когда небиологическая (механическая) составляющая станет преобладать, а биологическая составляющая потеряет свое значение. Так что, если она вообще вдруг исчезнет, это не будет иметь отрицательных последствий, поскольку механическая часть уже полностью освоит биологическую и будет ее контролировать. У нас будет небиологическое тело, которое мы сможем создавать с помощью нанотехнологий, которое будет принимать любую форму. Такое тело может быть виртуальным, неотличимым от настоящего. Возникший постчеловек будет небиологическим существом.
В 2045 году Земля начнет превращаться в один гигантский компьютер и этот процесс будет постепенно распространяться на всю Вселенную.
Человечество в биологическом смысле и искусственный интеллект сольются в постчеловеческую реальность, именуемую «сингулярность». Курцвейл стал настоящим адептом технологической сингулярности, которая является неким предсказанием, касающимся экспоненциального ускорения технологического прогресса, который приводит к созданию супер- искусственного интеллекта, берущего в свои руки будущее человечества. Так что все это, следовательно, связано с предварительным возникновением сознательного, «сильного» искусственного интеллекта.
Курцвейл полагает, что в скором времени появятся законы, регулирующие права и обязанности роботов, а также их отношения с людьми. В недалеком будущем будет достигнуто бессмертие. Через несколько десятилетий солнечная энергия станет настолько дешевой и доступной, что обеспечит все энергетические потребности человечества. Большинство болезней человека исчезнет, поскольку их лечением займутся сверхэффективные нанороботы. Совсем скоро появятся люди-роботы, которые будут строить свой организм, исходя из своих потребностей.
В своих исследованиях и размышлениях Р. Курцвейл во многом опирается на два положения: с одной стороны, технологические инновации развиваются по экспоненте, с другой стороны, прогресс, достигнутый в одной области, оплодотворяет другие области. Так, складывается процесс беспрерывного взаимообогащения, который невиданным образом ускоряет технологический прогресс. Благодаря такому крестообразному оплодотворению все более многочисленных и все более быстро развивающихся технологий инновационные циклы становятся все более короткими, доходя до стадии, когда неожиданно возникает технологическая сингулярность [3, с. 79–80]. Курцвейл полагает, что точкой отсчета и точкой невозврата станет момент, когда искусственный интеллект превзойдет по всем параметрам человеческий интеллект. На этой же стадии возникнет супер- искусственный интеллект, более умный, чем человеческий. Своего высшего уровня, по мнению Курцвейла, он достигнет к 2045 году.
Закон ускорения отдачи дополняет и уточняет действие искусственного интеллекта и технологической сингулярности, хотя ему Курцвейл уделяет несколько меньше внимания. Этот закон является механическим, он показывает, что эволюционные процессы имеют тенденцию к ускорению. Примером проявления его действия выступает рост объема памяти и эффективности информационных технологий. Изучение действия этого закона раскрывает нам особенности информационных процессов, лежащих в основе биологических законов, включая законы функционирования нашего мозга. В изучении работы человеческого мозга Курцвейл видит один из самых важных проектов современной цивилизации.
В целом последствия технологической сингулярности могут быть разными, одна из них является оптимистической.
Этой версии придерживается Курцвейл. Он считает, что технологическая сингулярность решит все проблемы человечества. Он при этом полагает, что возникший интеллект будет по-прежнему представлять человеческую цивилизацию, что будущие машины будут человеческими, даже если фактически они уже не будут таковыми.
Будучи футурологом, Курцвейл является также известным представителем трансгуманизма. Трансгуманисты полагают, что прежняя эволюция человечества заканчивается, она вступает в трансгуманизм, который означает глубокие изменения во всех областях человеческой жизни. Благодаря опять же технологической сингулярности уже в нынешнем столетии развитие общества приобретет невиданное ускорение. Курцвейл считает, что уже сейчас темпы технологического прогресса каждые десять лет возрастают в два раза, а в последующие десятилетия ускорение будет идти по экспоненте и станет многократным. Курцвейл предсказывает, что через несколько десятилетий люди начнут переходить от тела с искусственными органами к телу нанороботов. Он опирается при этом на известный закон Г. Мура, согласно которому каждые 18 месяцев компьютеры становятся вдвое мощнее, считая, что действие этого закона можно успешно распространить на другие области, растущее число которых оказывается во власти сингулярности с ее «ускоряющимся ускорением». Новые технологии откроют путь к победе над болезнями и старостью, к растущему продолжению жизни. Радикальное продление жизни приведет к фактическому бессмертию постчеловека.
Концепция Р. Курцвейла является последовательно положительной и оптимистической. Она получила большое влияние и широкое распространение. Вместе с тем далеко не все ученые разделяют его взгляды, многие из них занимают двойственную позицию, сочетая признание и отрицание искусственного интеллекта. Таковой является позиция известного английского физика-теоретика Стива Хоккинга, профессора Кембриджского университета. Его концепция во многом является пессимистической. Вслед за Курцвейлом он называет себя «убежденным редукционистом», полагая, «что законы биологии можно свести к законам химии», «что химические законы могут быть сведены к физическим» [2, c. 165].
С. Хокинг считает роль искусственного интеллекта в человеческой истории неоднозначной. Сегодня нельзя сказать, будет ли он другом, соратником, соперником или даже врагом человека. Он может стать как наиболее положительным, так и наиболее отрицательным фактором для человека. Искусственный интеллект может быть успешно использован для борьбы с болезнями и преодоления бедности.
Вместе с тем Хокинг допускает, что последние достижения цивилизации могут привести к деградации человека. В то же время он отмечает, что при правильном подходе искусственный интеллект способен решить большинство проблем в современном мире. Он также не исключает, что искусственный интеллект «может стать последней технологической революцией, если человечество не научится контролировать риски».
В общем, так или иначе, искусственный интеллект фактически преобразует все аспекты нашей жизни. Он может стать как «лучшим», так и «худшим» событием в жизни человека, нести как преимущества, так и опасности. Наряду с выгодами искусственного интеллекта также создает угрозы, к каковым следует отнести новое автономное оружие, а также возможности для немногих господствовать над большинством. Хокинг согласен с теми, кто видит опасность в том, что интернет выступает командным центром для террористических организаций. Он не исключает того, что искусственный интеллект может вступить в конфликт с людьми. С недоверием и опасением смотрит он на развитие высоких технологий искусственного интеллекта, полагая, что роботы могут всюду заменить людей.
Хокинг допускает, что в будущем будет создан искусственный интеллект, который окажется способным воспроизводить и улучшать самого себя. Это станет новой формой жизни, которая превзойдет человеческую жизнь. У роботов может возникнуть желание избавиться от людей, или же люди могут погубить самих себя. Хокинг считает, что люди прошли точку невозврата. Земля становится слишком тесной для них, к тому же население растет слишком быстро и пугающими темпами, люди рискуют уничтожить самих себя. Созданные людьми изобретения все сильнее угрожают планете. Вместе с тем Хокинг не считает, что люди должны отказываться от движения вперед. Просто возникшими опасностями надо уметь управлять. Человечество должно найти способ покинуть Землю и освоить другие планеты.
Интересной представляется концепция французского ученого и философа Ж.-К. Эдена, который является автором многих книг и статей по искусственному интеллекту. Его подход является критическим, он также не лишен иронии.
Ж.-К. Эден отмечает, что в современном коллективном воображаемом искусственным интеллектом стал настоящим мифом всесильного технологического прогресса. Его технопророки активно предсказывают скорый приход супер-интеллекта, который во всем превзойдет человеческий разум, станет неким божеством и установит контроль над человеческой судьбой. Несмотря на призывы со стороны многих ученых вернуться к разуму и здравому смыслу, в реальной ситуации почти ничего не меняется. Публикации в пользу искусственного интеллекта и технологической сингулярности продолжают множиться. В этой сложной ситуации, когда самые светлые умы оказываются в плену самых фантастических построений, Ж.-К. Эден высказывает несколько предложений. Он полагает, что следует признавать существование искусственного интеллекта, а также стремиться как можно больше знать о нем. Французский ученый отмечает, что искусственный интеллект обладает большим потенциалом и может помочь в решении многих проблем, особенно в области здоровья и образования. Он напоминает, что, как показывает опыт истории, «обычно более полезным бывает скорее брать кое-что из прогресса, нежели противостоять ему» [8, c. 14]. В этом плане он предлагает свой подход к классификации искусственных интеллектов, включающий шесть уровней, не ограничиваясь простой оппозицией «сильного» и «слабого» искусственного интеллекта.
Уровень 1 – ниже человеческого интеллекта, (уступающий ему по многим параметрам).
Уровень 2 – равный человеческому интеллекту, созданный в 1970-е годы в Стэнфордском университете.
Уровень 3 – превосходящий человеческий интеллект. Его реальным примером выступает компьютер Deep Blue, разработанный IBM в 1990-е годы и обыгравший в 1997 г. чемпиона мира по шахматам Г. Каспарова.
Уровень 4 – превосходящий фактически все виды человеческого интеллекта. Его примером является компьютер AlphaGo, созданный Googl DeepMind и победивший лучшего игрока в мире по Go.
Уровень 5 – «общий», соответствующий названию программы AGI (Artificial General Intelligence) или «полному» искусственному интеллекту. Его реального примера пока нет.
Уровень 6 – «сингулярность», или «бесконечно превосходящий» человеческий интеллект, соответствующий «технологической сингулярности». Он предстает скорее, как гипотеза, по поводу которой еще нет согласия.
