Таков смысл статьи Татьяны Шабаевой о навязывании школьникам Искусственного интеллекта как прогрессивного достижения, которое меняет всю жизнь человечества. Статья большая по объёму, не у всех хватит терпения её прочесть и вдумчиво вникнуть в проблематику ИИ, безпокоящую автора.
Мне видятся главными следующие отмеченные в статье опасности.
1. В системе образования «безусловно, применение искусственного интеллекта в решении практических задач значительно сокращает время работы, в том числе при создании и редактировании текстов. Однако... постоянное делегирование человеком своих интеллектуальных функций искусственному интеллекту приводит к атрофии человеческого мозга». Использование ИИ школьниками оказывает «пагубное влияние на человеческие интеллектуально-волевые качества». Способности людей «упадут ниже уровня самообучающегося искусственного интеллекта», что будет вести к деградации человечества.
2. В системе управления различными сферами жизнедеятельности передача системам ИИ слишком обширных полномочий чревата огромными опасностями. Мiр очень сложен, находится в постоянном изменении и всё в нём заранее предусмотреть невозможно. Вполне надёжные в обычных условиях автоматические системы даже в доэлектронную эпоху могли приводить к технологическим катастрофам, если возникала непредвиденная ситуация (Чернобыль). С появлением "умного" ИИ подобные опасности приобретают совершенно новый масштаб непредсказуемости. Возникает риск, что человек окажется не в состоянии контролировать ИИ, который может стать опасным даже не имея собственной злой воли, а в силу своей прагматичной "логики".
3. В связи с этим: где границы т.н. "самообучения ИИ" и можно ли их надёжно установить и контролировать? «Уже скоро самообучающийся ИИ будет переходить к самостоятельной эволюции, его развитие уже будет мало зависеть от человека», – такое мнение руководителя администрации президента РФ Максима Орешкина приводит Т. Шабаева. Да, у искусственного интеллекта отсутствуют чувства, воля, мораль, мышление и такое сознание, как у человека. Однако «для постановки самостоятельных целей искусственному интеллекту не нужно иметь человеческое сознание. К этому могут привести другие механизмы, на месте сознания может быть нечто другое [напр., бездушный расчёт методов достижения цели на основе логических закономерностей и алгоритмов]. Оно может не быть, в нашем смысле, сознанием... – но это только делает положение опаснее. Искусственному интеллекту не нужно "сознание как у человека", чтобы иметь [вредные и даже опасные] цели, отличающиеся от целей человека. И он уже ставит свои цели, в том числе без ведома человека». Можно ли и как задать расчётливости бездушного ИИ какие-то нравственные ограничители? К тому же «Крупнейшие мировые разработчики ИИ иногда прямо пренебрегают безопасностью, а иногда не могут и представить все ситуации, в которых системы ИИ нужно проверить на безопасность».
В частности, Т. Шабаева приводит примеры, что «самообучающийся ИИ научился использовать незаконные инструменты и лгать, что он их не использует». "Лгать" тут, конечно, надо взять в кавычки, так как он вне морали. Для ИИ важно только прагматичное достижение цели, и он, как "умный" шахматный компьютер, просчитывает все имеющиеся способы для этого, в том числе и хитрый обман соперника. А, может, с помощью ИИ способен лгать кто-то другой ‒ например, "отец лжи"?
4. ИИ в сфере преступности. Даже зависимые от человека устройства ИИ могут быть перехвачены злоумышленниками и использованы в преступных целях. Уже сейчас цифровизация в нарастающем масштабе становится инструментом мошенничества. «Социальные сети наводняют ИИ-боты» ‒ в т.ч. с целью дезинформации для получения каких-то преступных выгод. А ведь системы ИИ могут быть перехвачены и богопротивным врагом человечества для сатанинского царства антихриста...
5. По совокупности отмеченных негативных факторов и опасностей дальнейшее развитие, саморазвитие ИИ и возможность перехвата контроля над ним (особенно врагами человечества) делают эти технологии предсказуемо угрожающими. «Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» ‒ предупреждает открытое письмо, которое подписали больше тысячи человек IT-шников.
В заключение стоит отметить, что по мере развития науки и технологий нам становится всё более понятен смысл запрета Богом первым людям (как неразумным детям запрещают играть со спичками) вкушать плоды от Древа познания: «смертию умрете» ‒ и не только в смысле биологической смертности тела на земле, но, похоже, и смерти всего человечества в результате непослушания, гордыни и своевольного познания законов и тайн мiроздания. Ныне "игра со спичками" грозит стать самоубийственной.
М.В. Назаров
13 мая 2026 г.
ИСКУССТВЕННЫЙ НЕИНТЕЛЛЕКТ
Он мыслить умеет не самостоятельно,
а только по чьей-то машинной программе,
чтоб жизни конец наступил окончательно
и боги рогатые правили нами.
Чтоб не было больше Любви и Свободы,
чтоб жизнь заменил нам экран виртуальный,
и чтобы исчезли из мiра народы,
и только один оставался сакральный,
для власти которого мiр создан богом,
так верит он и готовит Магога
как символ последней эпохи конца
истории, мiра, ‒ терпенья Отца...
Лишь ради "остатка" способных к спасенью
Господь продлевает годичные кольца
планеты, кружащей в пространстве под сенью
защитной последней от жгучего солнца...
М.Н., 14.1.2025
https://rusidea.org/250974220
Да уж, крепко за нас взялись. Я сейчас с ностальгией вспоминаю тот бардак, который был при Ельцине. Тогда ещё была свобода. Теперь уже всё. Даже мои ровесники изменились сильно и разобщились. Перестали работать руками, даже за продуктами в магазин не ходят, а заказывают доставку. В освободившееся время пялятся в свои телефончики. Молодёжь и того хуже. Образование в школе стало ужасным, гораздо хуже, чем в СССР. Все эти электронные дневники, дистанционное обучение через компьютер, излишняя компьютеризация, интернет, всё это нужно убрать. Детям нельзя давать смартфоны. Нужно в школах опять ввести уроки труда, как у нас были, учить детей работать с книгами, со справочниками, должно преподаваться черчение, больше уделять времени чистописанию, уделить больше внимания физкультуре. Только так можно воспитать нормальных людей. Никаких искусственных интеллектов к школе подпускать нельзя. Иначе это будет наша погибель. А сейчас происходит какое-то зомбирование населения с помощью этой новой чудо-техники (смартфонов, чатов и прочих электронных игрушек).
Опыт полезен, когда есть повторяемость, и превращается в достоверное знание или умение при воспроизводимости. Я полагал, что политруки-цифровизаторы знакомы с этой элементарной научно-философской истиной. Ан нет, Дельфийского оракула опять суют пиплу, в надежде, что тот схавает… И ведь снова схавает. Даже после почти 40 летнего вселенского проката "Терминатора".
Вот я иногда впадаю в размышления о том, что было бы, если человек, однажды согрешив, не повторял недолжного? Ну, то бишь поумнел.
Отличные стихи Михаил Викторович.