Таков смысл статьи Татьяны Шабаевой о навязывании школьникам Искусственного интеллекта как прогрессивного достижения, которое меняет всю жизнь человечества. Статья большая по объёму, не у всех хватит терпения её прочесть и вдумчиво вникнуть в проблематику ИИ, безпокоящую автора.
Мне видятся главными следующие отмеченные в статье опасности.
1. В системе образования «безусловно, применение искусственного интеллекта в решении практических задач значительно сокращает время работы, в том числе при создании и редактировании текстов. Однако... постоянное делегирование человеком своих интеллектуальных функций искусственному интеллекту приводит к атрофии человеческого мозга». Использование ИИ школьниками оказывает «пагубное влияние на человеческие интеллектуально-волевые качества». Способности людей «упадут ниже уровня самообучающегося искусственного интеллекта», что будет вести к деградации человечества.
2. В системе управления различными сферами жизнедеятельности передача системам ИИ слишком обширных полномочий чревата огромными опасностями. Мiр очень сложен, находится в постоянном изменении и всё в нём заранее предусмотреть невозможно. Вполне надёжные в обычных условиях автоматические системы даже в доэлектронную эпоху могли приводить к технологическим катастрофам, если возникала непредвиденная ситуация (Чернобыль). С появлением "умного" ИИ подобные опасности приобретают совершенно новый масштаб непредсказуемости. Возникает риск, что человек окажется не в состоянии контролировать ИИ, который может стать опасным даже не имея собственной злой воли, а в силу своей прагматичной "логики".
3. В связи с этим: где границы т.н. "самообучения ИИ" и можно ли их надёжно установить и контролировать? «Уже скоро самообучающийся ИИ будет переходить к самостоятельной эволюции, его развитие уже будет мало зависеть от человека», – такое мнение руководителя администрации президента РФ Максима Орешкина приводит Т. Шабаева. Да, у искусственного интеллекта отсутствуют чувства, воля, мораль, мышление и такое сознание, как у человека. Однако «для постановки самостоятельных целей искусственному интеллекту не нужно иметь человеческое сознание. К этому могут привести другие механизмы, на месте сознания может быть нечто другое [напр., бездушный расчёт методов достижения цели на основе логических закономерностей и алгоритмов]. Оно может не быть, в нашем смысле, сознанием... – но это только делает положение опаснее. Искусственному интеллекту не нужно "сознание как у человека", чтобы иметь [вредные и даже опасные] цели, отличающиеся от целей человека. И он уже ставит свои цели, в том числе без ведома человека». Можно ли и как задать расчётливости бездушного ИИ какие-то нравственные ограничители? К тому же «Крупнейшие мировые разработчики ИИ иногда прямо пренебрегают безопасностью, а иногда не могут и представить все ситуации, в которых системы ИИ нужно проверить на безопасность».
В частности, Т. Шабаева приводит примеры, что «самообучающийся ИИ научился использовать незаконные инструменты и лгать, что он их не использует». "Лгать" тут, конечно, надо взять в кавычки, так как он вне морали. Для ИИ важно только прагматичное достижение цели, и он, как "умный" шахматный компьютер, просчитывает все имеющиеся способы для этого, в том числе и хитрый обман соперника.
4. ИИ в сфере преступности. Даже зависимые от человека устройства ИИ могут быть перехвачены злоумышленниками и использованы в преступных целях. Уже сейчас цифровизация в нарастающем масштабе становится инструментом мошенничества. «Социальные сети наводняют ИИ-боты» ‒ в т.ч. с целью дезинформации для получения каких-то преступных выгод. А ведь системы ИИ могут быть перехвачены и богопротивным врагом человечества для сатанинского царства антихриста...
5. По совокупности отмеченных негативных факторов и опасностей дальнейшее развитие, саморазвитие ИИ и возможность перехвата контроля над ним (особенно врагами человечества) делают эти технологии предсказуемо угрожающими. «Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» ‒ предупреждает открытое письмо, которое подписали больше тысячи человек IT-шников.
В заключение стоит отметить, что по мере развития науки и технологий нам становится всё более понятен смысл запрета Богом первым людям (как неразумным детям запрещают играть со спичками) вкушать плоды от Древа познания: «смертию умрете» ‒ и не только в смысле биологической смертности тела на земле, но, похоже, и смерти всего человечества в результате непослушания, гордыни и своевольного познания законов и тайн мiроздания. Ныне "игра со спичками" грозит стать самоубийственной.
ИСКУССТВЕННЫЙ НЕИНТЕЛЛЕКТ
Годичные кольца на Древе Познанья
прибавились мощно в греховный наш век:
учёные люди склепали созданье ‒
Искусственно вызванный Неинтеллект.
Он мыслить умеет не самостоятельно,
а только по чьей-то машинной программе,
чтоб жизни конец наступил окончательно
и боги рогатые правили нами.
Чтоб не было больше Любви и Свободы,
чтоб жизнь заменил нам экран виртуальный,
и чтобы исчезли из мiра народы,
и только один оставался сакральный,
для власти которого мiр создан богом,
так верит он и готовит Магога
как символ последней эпохи конца
истории, мiра, ‒ терпенья Отца...
Лишь ради "остатка" способных к спасенью
Господь продлевает годичные кольца
планеты, кружащей в пространстве под сенью
защитной последней от жгучего солнца.
М.Н., 14.1.2025
https://rusidea.org/250974220
