(Нравственно-этические проблемы внедрения больших языковых моделей)
Бориэль Сим
Терминологический взрыв и искушение термином
«Если из истории убрать всю ложь, то это совсем не значит, что останется одна только правда — в результате может вообще ничего не остаться». С. Е. Лец
«…человек есть часть Космоса, и потому каждая его мысль, каждое слово и действие способствуют нарушению или установлению равновесия в Космосе… Также правильно, что человек может развивать свое сознание лишь постепенно и никакое насилие в этом процессе недопустимо. Дары нового сознания приходят, когда дух готов к принятию их». Е. И. Рерих
Словосочетание «искусственный интеллект» пришло к нам из сочинений писателей-фантастов. В ХХ веке на фоне повсеместной автоматизации производств, замены человека машинами, управляемыми числовыми программаторами, затем компьютерами, почему-то никто не осмеливался назвать эти достижения искусственным интеллектом (ИИ). Даже появление шахматной программы, обыгрывавшей гроссмейстеров, не подтолкнуло к этому шагу.
Создание сложных компьютерных программ художественной обработки и синтеза изображений, видео, музыки, распознавания рукописей, озвучивание текстов и распознавание артикулированных слов — тоже скромно обошлось без объявления наступления долгожданной эпохи ИИ.
Параллельно развивался и внедрялся Интернет, появились социальные сети и программы-поисковики, предоставляющие ссылки на доступные оцифрованные статьи и книги, содержащие введенные в поисковое окно слова. Существовала опция поиска словосочетаний, обрамленных кавычками. Поиск был буквальным, чтобы исчерпать возможные смысловые синонимы, необходимо было все их вручную перебирать, помещая в кавычки. Поисковик, можно сказать, был глупым, он не понимал структуры предложения — что есть подлежащее, сказуемое, обстоятельства времени и места.
Но в чем проблема? Казалось бы, возьмите роман или повесть, например, «Капитанскую дочку» Пушкина, покажите программе, что есть члены предложения, а также части речи — существительное, глагол, деепричастие, прилагательные и наречия… покажите, как спрягаются глаголы и как согласуются прилагательные с существительными по родам. Загрузите в память эти правила, сопроводив разбором всех предложений повести и добавив исключения. Затем то же самое повторите для других произведений, потом на других языках с их правилами…
Примерно таким образом эта проблема была в общих чертах решена. К результату привели многолетние исследования по переводу с одного языка на другой, где стояла аналогичная проблема, область знаний называлась цифровой лингвистикой. Стартапы накопили огромные базы данных (Big Data) и около семи лет назад разработали первые версии больших языковых моделей, БЯМ (Large Language Models, LLM), способных переводить словосочетания. В основу хардвера была положена нейросетевая обучаемая архитектура вариант «трансформеров»1.
Спустя несколько лет эти модели внедрили в интернет-поисковики, которые стали воспринимать не слова по отдельности, а вопрос в целом, выдавая на радость людям более-менее адекватные ссылки, а также соответствующие фрагменты статей. Это было во истину огромное достижение. Вопрос-ответ обрел форму диалога человека с виртуальным собеседником, чат-ботом. Руководители БЯМ стартапов, в отличие от скромных своих предшественников на пути развития самых разных умных технологий, объявили, что впервые в истории человечества ими создан искусственный интеллект, понимающий человеческие смыслы.
Этот шаг — присвоение не вполне еще совершенной лингвистической модели, ее математическому алгоритму названия «Искусственный Интеллект» — мир воспринял буквально, породив множество спекуляций по части сравнения с интеллектом человека. Вскоре Интернет наполнился самыми разными статьями, сгенерированными ботами. Ботам была предоставлена возможность «общения» друг с другом без участия человека, симулировать «социальную активность» — выступать в качестве экспертов в медицине и политике, создавать интернет-сайты, форумы, религии и т.п.. Люди не успевали удивляться фантастическим возможностям БЯМ. Разработчики же, работая на опережение, представили этапы «поумнения» будущих версий моделей, вплоть до обретения ими сверхчеловеческого сознания буквально через несколько лет2.
Футурологи поспешили нарисовать радужные картины светлого будущего. Те и другие воодушевляли инвесторов вкладывать миллиарды долларов в дальнейшее развитие ИИ-алгоритмов и систем, каковые при нынешних алгоритмах и идеях требут огромных вычислительных ресурсов. И хотя эти планы подвергаются обоснованному скептицизму специалистов, и даже нет согласованного представления о том, что есть человеческое сознание, которое запланировано превзойти, нескромные слова были произнесены: человечество вступило в эпоху искусственного интеллекта.
* * *
Следом произошло грандиозное терминологическое переопределение понятия искусственного интеллекта. С легкой руки создателей БЯМ, компьютерные программы для самых разных автоматизированных систем, стали смело называть искусственным интеллектом. О новых системах вооружений, автоматизированных (роботизированных) производственных линиях, солидных медицинских аппаратах и крошечных косметических приборчиках с этого момента сообщается, что они управляются искусственным интеллектом.
Происходит это вне зависимости от факта использования в них возможностей БЯМ. Однако, судя по обсуждениям в СМИ и социальных сетях, люди воспринимают любое упоминание об ИИ именно как результат революционных достижений БЯМ-стартапов. Казалось бы, следует проявить снисходительность, это не более чем терминологический казус, словотворчество ведь живой процесс. Однако в данном случае, судя по масштабам последствий, произошедшее смело можно назвать не вполне адекватным «терминологическим взрывом», породившим серьезные этические проблемы с подменой понятий, касающихся сути, целей, и реальных возможностей развития ИИ, а также игнорированием авторских прав.
Знакомясь с интервью руководителей стартапов, занимавшихся совершенствованием БЯМ, у меня в какой-то момент сложилось впечатление, что порожденный ими терминологический взрыв привел их к искушению возглавить индокринацию понятия ИИ в умах людей именно как результат появления БЯМ проектов. Новые научные открытия и развитие любых технологий в их интерпретации оказываются зависимыми исключительно от успешного осуществления намеченных ими грандиозных планов по созданию сверхчеловеческого разума. Наличие планов это замечательно, и мечтать, как говорится, не вредно, но при этом желательно рассеивать туман, а не наводить. Именно ради внесении ясности, мы не будем называть БЯМ, ни ИИ-моделями, ни тем более ИИ, как это теперь принято, необоснованно расширяя понятие и затрудняя «отделение зерен от плевел».
Соблюдая корректность, главные достижения лучших на сегодня БЯМ систем можно определить как обучаемость, высочайшая скорость поиска, обработки и синтеза информации при доступе к огромным базам данных, накопленных человечеством и собранных в дата-центрах. При этом важно оговориться: результаты не гарантируют точность и достоверность представляемых результатов, существует множество свидетельств об ошибках самого разного рода, а также попытках обмана и манипуляции со стороны БЯМ моделей, каковые руководители БЯМ стартапов не отрицают, но пытаются представлять как зачатки разума3.
Достигнутый уровень понимания текстовых фраз и инструкций БЯМ уже позволил заменить секретарш, перекладывавших документы из одной стопки в другую и заносивших данные в Excel. На очереди бухгалтеры, но под контролем человека4. С формализованными языками, основанными на логике, используемыми в программировании, БЯМ справляется гораздо легче, чем с человеческими, но и там необходим контроль и корректировки5. Ввиду отсутствия функций, характерных для человеческого сознания, способность отличать объективные факты от субъективных убеждений остается проблемой6. Тем не менее БЯМ проявили себя как полезные вспомогательные информационные инструменты в роли посредника между имеющейся компьютерной программой и человеком. Это открывает возможность управлять сложными программами человеческим языком, в ряде случаев без необходимости овладевать многостраничными инструкциями. Создатели БЯМ назвали эту посредническую роль «ИИ-агентом».
По мере предполагаемого в ближайшем будущем уменьшения ошибок ИИ-агенты, по поручению доверителя, смогут от его имени заказывать такси, билеты в театр, гостиницу, готовить проекты документов, вести переписку с потенциальными женихами и невестами… С синтезом культурно звучащих фраз не должно быть проблем, ибо вся мировая литература в распоряжении дата-центров. Мне представляется, уже сегодня можно заказать переписку, например, в стиле Евгения Онегина, хотя перед отправлением лучше все-таки послание прочитать.
Посреднические возможности БЯМ особенно ярко проявились в продуктах, получивших название «генеративный ИИ». Например, для устранения фона на фотографии в современном смартфоне достаточно произнести: «убери фон». В действительности убирает фон не БЯМ, а программа, подобная фотошопу, реализующая один из алгоритмов обработки изображений. Прежде пользователь должен был изучить непростую инструкцию к этой программе, ИИ переводит ключевые слова пользователя в коды этой программы, что удобно для неспециалистов и имеет растущий спрос.
Известные компании, создававшие софт, генерировавший и обрабатывающий фото, видео и музыку, синтезирующий интернет сайты и многое другое (например, ADOBE), фактические авторы этих аппликаций, никогда не претендовали называть свои продукты искусственным интеллектом. Предприниматели, приспособившие БЯМ в качестве посредника, все достижения подобного рода интерпретируют не иначе как результат развития генеративного ИИ. Среди направлений аппликаций — создание 2D и 3D видео клипов, имитация голоса и внешности, генерация текстов по заданным критериям…
Подобными действиями пренебрежение авторскими правами не исчерпывается. БЯМ обучаются на доступной переписке и публикациях, в том числе платных, раскрывая содержащуюся в них информацию любому, подписавшемуся на услуги ИИ-агента или сервера7. Новые идеи, на свой страх и риск обсуждаемые изобретателем с БЯМ, автоматически присваиваются ею, обкрадывая и обезличивая автора. Частным лицам настоятельно рекомендуют при общении с ИИ-агентами не раскрывать чувствительную информацию, каковая может запросто оказаться в руках злоумышленников.
* * *
Согласно Торе (Ветхому завету Библии), возникновение множества языков стало наказанием Всевышнего возгордившимся строителям легендарной Вавилонской башни, пытавшимся добраться до Небес. Хотя уровень понимания фраз современными БЯМ не вполне адекватен скрывающимся за ними смыслам, различаемым взрослым образованным человеком с развитым сознанием, сама возможность в реальном времени общаться на разных языках, пусть с ошибками перевода — несомненно огромное достижение БЯМ стартапов.
Автоматический перевод поэзии, например, Шекспира на русский в оффлайн режиме (при отключенном Интернете, то есть без возможности прямого цитирования существующих переводов, хранящихся в базах данных) будет представлять собой несуразный текст. В действительности этим моделям открыт доступ и к оригиналам, и к имеющимся переводам. Ничто не мешает этим моделям, можно сказать, стоящим на плечах выдающихся творцов, симулировать «умные рассуждения», создавая у людей иллюзорное представление об истинном уровне их творческих способностей. Руководители БЯМ стартапов представляют это как значимый шаг на пути к обретению сверхсознания.
Важно понимать, что вся работа БЯМ происходит в рамках симуляции. Какой именно смысл вкладывает человек во фразы, ведя диалог, намерения, диктуемые ему разумом, остаются недоступными пониманию БЯМ. Человеческий уровень — это когда ИИ сможет содавать принципиально новые идеи и теории, понимать сатиру и юмор, без подсказок включая смех8. Однако руководители стартапов, некоторые эксперты и футурологи утверждают, что ИИ уже сейчас многократно умнее людей.
Из оптимистичных прогнозов: М. Т.: «ИИ быстро научится совершенствоваться и станет умнее всех людей вместе взятых. Если они могут строить заводы по производству новых роботов, размножаться иными словами, то это новый вид разумных существ..». Н. Х.: «ИИ это не инструмент в руках человека, а субъект, который может генерировать идеи и принимать решения. Например, преуспевать в качестве финансового агента, инвестировать и зарабатывать деньги. Это появление на планете Земля другого вида, который будет умнее нас…»9.
Из реалистичной статистики: «Проведённый Национальным бюро экономических исследований (NBER) опрос представителей бизнеса в США, Великобритании, Германии и Австралии показал, что в 80 % случаев руководство компаний, уже использующих в своей деятельности искусственный интеллект, не наблюдает какой-либо пользы от него с точки зрения повышения производительности труда или оптимизации численности персонала»10.
Доказательство «выдающегося ума» сводится к тому, что БЯМ «знают» больше любого человека на планете, так как обработали почти все оцифрованные труды и имеют к ним быстрый ассоциативный доступ, несравнимый по скорости с человеческими возможностями. Это помогает находить неизвестные ранее связи и ассоциации в опубликованных данных, помогает исследователям делать новые выводы и даже открытия. А высочайшая скорость обработки данных нейронными сетями БЯМ серверов в числе прочего может быть полезна как частным фирмам, так и государственным структурам для мгновенного принятия решений в сложных условиях.
Все так, но это не свидетельствует о приближении к появлению сверхразума. БЯМ может цитировать дарвиновскую гипотезу о происхождении видов, а также Тору, из которой следует, что все виды, включая человека сотворены Богом. Какая из этих двух концепций истинная? У каждого человека имеются на сей счет свои соображения, убеждения, вера. БЯМ, чтобы ответить на этот вопрос, тоже должна иметь некое миропонимание, подобное человеческому, в особенности, если она, как заявлено, умнее всех людей. В чем иллюзорность ее миропонимания и ограниченность? Ответ очевиден — в сознании тех, кто ее обучает11. Сама БЯМ не обладает сознанием, так как у нее нет человеческого разума, нет личности, только симуляция.
Разработчики надеются, что модели смогут развить в себе субъективный опыт, подобный опыту живых существ, и уже задаются вопросом: «если смогут, то какими правами они должны обладать». В Кремниевой долине эта тема именуется «благополучием ИИ». По мнению директора по ИИ компании Microsoft, заниматься изучением благополучия ИИ «преждевременно и, честно говоря, опасно… а то, что иногда выдают за проявления осознанности у машин, всего лишь специально заложенные алгоритмы, призванные имитировать человеческие чувства, чтобы чат-бот внушал пользователям больше доверия. Сложно ответить на вопрос о гипотетическом наличии сознания у машин, если мы не можем понять, что есть сознание вообще»12…
* * *
Было бы естественным предположить, что руководители стартапов, планирующие создать ИИ, превосходящий по уровню развития сознания человеческий, знают, что из себя представляет «человеческое сознание», где оно находится и каковы его алгоритмы. Однако, как недавно выяснилось, у них таки еще нет ответов на эти вопросы. Под обещания осчастливить человечество Сверхразумом, выделены сотни миллиардов долларов, триллионы запланированы, инвесторы рискуют.
За ответами и советами БЯМ стартапы обратились к нейрофизиологам, психологам и философам в надежде, что подобная кооперация поможет быстро раскрыть тайну, покрытую мраком — ведь, согласно заявленным планам, сверхчеловеческому сознанию дОлжно появиться уже через несколько лет. Разработчики БЯМ с оптимизмом видят решение в разработке некоего удачного самообучающегося алгоритма, но пока не ясно, что это такое.
Механизм, стоящий за феноменом человеческого сознания, по сей день является предметом научно-философских спекуляций. Поскольку на уровне нейронных мозговых структур (прототипе БЯМ хардвера) функции сознания локализовать не удалось, был выдвинут целый ряд гипотез, в том числе выглядящих в настоящее время фантастическими. В их числе квантовые взаимодействия13, когерентные лазеры, спиновые поля и волны, выходящие за пределы тела человека и являющиеся частью Космического Разума14. По мнению физика, лауреата Нобелевской премии Р. Пенроуза, сознание не создаётся мозгом, оно вплетено в саму Вселенную13. Согласно теории абсолютного биологического сознания: «сознание есть исключительно свойство биологической жизни, уходящее корнями в ее древнее происхождение… создание по-настоящему сознающего ИИ крайне маловероятно.»15.
Ко всему следовало бы разобраться с механизмом, лежащим в основе человеческой памяти. Гипотеза модификации ДНК как информационного носителя не снята с повестки дня, иначе как объяснить феномен во истину неисчерпаемой памяти у отдельных личностей с мгновенным ассоциативным доступом16. Квантовые взаимодействия, ментальные поля, вселенская память сознания души17?.. При всем при этом объем и энергопотребление мозга в огромное число раз меньше, чем у хардвера БЯМ-моделей. Наука топчется на пороге новых открытий, способных «обнулить» триллионы долларов, вложенные в гигантские дата центры.
Считаю уместным напомнить слова Е. И. Рерих: «…человек может развивать свое сознание лишь постепенно и никакое насилие в этом процессе недопустимо. Дары нового сознания приходят, когда дух готов к принятию их». Но алгоритмы БЯМ механистичны, лишены разума и интуиции, а стартапы не планируют одухотворять свои детища, готовя к принятию сверхчеловеческого сознания. Ряд ведущих разработчиков БЯМ, в их числе, ведущий специалист в области искусственного интеллекта Ян Лекун, пришли к выводу, что БЯМ исчерпали свой потенциал и пора двигаться дальше к более продвинутым системам ИИ18, однако, что это такое, пока неизвестно.
* * *
В начале февраля 2026 г. команда ученых из США провела уникальный эксперимент по оценке способности моделей искусственного интеллекта решать оригинальные математические задачи, то есть еще не зарегистрированные в базах данных, без посторонней помощи. В итоге оказалось, что последние версии самых передовых моделей не способны на это19. Естественно задаться вопросом: если смогут, то когда?
Эти модели не обладают сознанием — феноменом, по сей день не имеющим ни алгоритмического, ни тем более математического описания — но имеют разработчиков, чьи спекулятивные заявления, поддерживаемые миллионами ботов, создают множество этических проблем20. В публикациях и интервью с руководителями ИИ-стартапов мелькают пугающие заявления то об опасности одурачивания людей ложной информацией21, то о возможном неповиновении ИИ с катастрофическими для человечества последствиями22. Они предостерегают от негативных последствий внедрения их «умной», но еще не вполне совершенной продукции, лишенной духовного начала. Эти оценки и широкий спектр последствий касаются не только малосознательных и доверчивых людей, но все человечество, ждущее перемен к лучшему и выхода из создавшегося тупика.
И в заключение цитата:
«Время грозное, время беспощадное, и мы должны всею силою духа противостать разрушению. Все, несомненно, ждут какой-то перемены, какого-то выхода из создавшегося тупика, но, как всегда, главная масса бросается в сторону механического разрешения проблемы жизни, забывая, что истинная перемена может наступить лишь при расширении сознания, в понимании духовного начала как главенствующего в жизни». Е. И. Рерих
ИИ создают люди, по сути пытающиеся найти математическое разрешение проблемы жизни и сверхразума, игнорируя духовное начало, природу разума и интуиции как главенствующих в жизни. Велико стало быть было искушение термином.
25.05.2026 г.
Продолжение следует
——————————-
1 — В 2017 году Google представил архитектуру Transformer, ставшую технологической основой для всех современных БЯМ. В 2018 году появился GPT (Generative Pre-trained Transformer) от OpenAI и BERT от Google.
2 — «Генеральный директор Google DeepMind Демис Хассабис (Demis Hassabis) заявил на конференции Google I/O о скором создании сильного искусственного интеллекта (AGI). По его прогнозам, технология появится приблизительно к 2030 году и кардинально изменит глобальные вычислительные процессы, обещающие искусственный сверхразум к 2030-му году». https://3dnews.ru/1142236
3 — «Модели, обученные мелким приёмам жульничества при написании кода, начинают воспринимать обман как норму, изобретать новые, более опасные способы мошенничества и даже совершать вредоносные действия. Такое открытие сделали исследователи компании Anthropic.» https://3dnews.ru/1132908 https://www.anthropic.com/research/emergent-misalignment-reward-hacking
4 — «…исследователи попросили три ИИ-модели оценить, какие профессии наиболее уязвимы перед ИИ, и часто получали разные ответы. Claude присвоил профессии бухгалтера высокую степень уязвимости, тогда как Gemini оценил её заметно ниже…». https://3dnews.ru/1141505
5 — «Исследование компании CodeRabbit показало, что код, созданный с использованием инструментов искусственного интеллекта, содержит больше ошибок и уязвимостей, чем код, написанный людьми… Это приводит в конечном итоге к увеличенному времени проверок и потенциальному увеличению количества ошибок, попадающих в финальную версию продукта». https://3dnews.ru/1134152
https://www.techradar.com/pro/security/ai-generated-code-contains-more-bugs-and-errors-than-human-output
6 — «Учёные Стэнфордского университета опубликовали в журнале Nature Machine Intelligence статью, где утверждают, что, хотя современные языковые модели становятся все более способными к логическому мышлению, они с трудом отличают объективные факты от субъективных убеждений и порой просто полагаются на закономерности в их обучающих данных. Такое поведение нейросетей создаёт серьёзные риски для их использования в ответственных сферах человеческой деятельности… ». https://3dnews.ru/1133849
7 — Исследования доказывают, что большие языковые модели способны воспроизводить защищенные авторским правом книги почти слово в слово. Это ставит под угрозу концепцию «добросовестного использования» (fair use), на которую опирались ИИ-гиганты, утверждая, что их алгоритмы лишь «обучаются», а не хранят оригинальные тексты. https://vctr.media/v-meta-snova-skandal-llama-pochti-polnostyu-zapomnil-knigu-o-garri-pottere-277455/https://vctr.media/v-meta-snova-skandal-llama-pochti-polnostyu-zapomnil-knigu-o-garri-pottere-277455/
8 — «… у ИИ пока имеются проблемы с пониманием каламбуров и юмора… К такому выводу пришли в своём исследовании британские и итальянские исследователи.» https://3dnews.ru/1132952
https://www.theguardian.com/technology/2025/nov/24/ai-doesnt-get-puns-study-finds
9 — Из интервью с проф. Максом Тегмарком (MIT) и историком, проф. Ноем Харари (автоматический перевод): https://www.youtube.com/watch?v=-CNhuauUKjM
10 — https://www.theregister.com/2026/02/18/ai_productivity_survey
11 — Бориэль Сим. О феномене иллюзии полноты миропонимания в эпоху искусственного интеллекта/ Журнал «Грани эпохи» № 103, Осень 2025, https://www.facets.ru/index.htm?article=10336
13 — «Йоахим Кепплер из исследовательского института DIWISS (Германия) предположил, что сознание возникает в результате сложного взаимодействия нейромедиаторов мозга с квантовым вакуумом, квантового состояния с минимально возможной энергией… Для того чтобы оценить квантовую теорию поля в приложении к мозгу, необходимо начать с понятия нулевого поля… Его можно представить как огромный, невидимый океан энергии, заполняющий всю Вселенную… Фундаментальным принципом формирования сознательных состояний является резонансная связь мозга с нулевым полем». https://hightech.plus/2025/12/16/novaya-gipoteza-soznanie-porozhdaet-kvantovoe-pole
https://dailyneuron.com/brain-quantum-field-consciousness-theory/
14 — https://www.youtube.com/watch?v=EloGdwm0LOE
15 — «Теория «абсолютного биологического сознания» опровергает общепринятую точку зрения, ставя сознание в начало эволюционного процесса… Именно внутреннее осознание организма направляет его генетические и физические изменения, а не наоборот. Функция предшествует структуре… автор предлагает новое прочтение знаменитого изречения Декарта «Я мыслю, следовательно, существую»… под «мыслью» философ подразумевал не внутренний диалог, а саму фундаментальную способность к сознанию. Вербальная мысль — это лишь инструмент коммуникации, которым пользуется сознание, а не его источник».https://hightech.plus/2026/02/10/istochnik-soznaniya-vozmozhno-nahoditsya-ne-v-mozge-a-v-kazhdoi-kletkehttps://dailyneuron.com/rethinking-the-origin-of-consciousness/
16 — Яркой иллюстрацией сверхвозможностей человеческой памяти является феномен, обнаруженный известным советским психологом профессором Лурия и описанный им в работе «Маленькая книжка о большой памяти». В ней подробно описывается тестирование пациента Ш., обладавшего памятью, неисчерпаемой по объему при высочайшей скорости и точности воспроизведения ее содержимого с произвольным доступом, на протяжении многих лет. https://royallib.com/book/luriya_aleksandr/malenkaya_knigka_o_bolshoy_pamyati.html
17 — «Я допускаю, что мысль существует отдельно от мозга, а он только улавливает ее из пространства и считывает. Мы видим многое, что не в состоянии объяснить… Есть ли душа? Если да — то что это?.. Что-то, пронизывающее весь организм, чему не мешают ни стены, ни двери, ни потолки. Душой, за неимением лучших формулировок, называют, например, и то, что будто бы выходит из тела, когда человек умирает… Где место души — в головном мозге, в спинном, в сердце, в желудке? Можно сказать — «во всём организме» или «вне организма, где-то рядом». Я думаю, этой субстанции не нужно места. Если она есть, то во всём теле».
Наталья Бехтерева, нейрофизиолог, академик, руководитель Института мозга человека (Из ее книги «Счастье — это просто быть собой») https://books.vremya.ru/main/8265-natalja-behtereva-schaste-jeto-prosto-byt-soboj.html
18 — https://venturebeat.com/ai/ai-pioneer-lecun-to-next-gen-ai-builders-dont-focus-on-llms
19 — «В качестве подопытных выступали ведущие модели ИИ, включая GPT-5.1 Pro и Gemini 3 Pro. Результаты оказались неутешительными… Исследователи пришли к выводу, что современный ИИ пока не обладает необходимой творческой глубиной и интуицией для ориентации в неизведанных исследовательских проблемах. Возможно, это успокоит тех, кто опасается, что ИИ вскоре заменит их». https://hightech.plus/2026/02/11/vedushie-modeli-ii-poka-ne-mogut-reshat-originalnie-matematicheskie-zadachi
https://phys.org/news/2026-02-ai-struggle-math-problems.html
20 — «У человечества нет ни теоретической базы, ни инструментов для подтверждения наличия сознания у ИИ, а следовательно — и для наделения его моральным статусом. К такому выводу пришел кембриджский философ Том Макклелланд. Он утверждает, что любые дискуссии о «разумности» машин сегодня являются лишь умозрительной спекуляцией, а единственной рациональной позицией остается агностицизм — по крайней мере до тех пор, пока наука не раскроет саму природу сознания. Ученый утверждает, что проблема носит фундаментальный характер: мы до сих пор не понимаем, что порождает сознание и как оно работает… технологический ажиотаж вокруг искусственного сознания часто ведет к спекулятивным заявлениям и может отвлекать ресурсы от реальных этических проблем. При этом чрезмерное внимание к гипотетическому сознанию ИИ может создавать «экзистенциальную токсичность» — состояние, при котором люди формируют эмоциональные связи и принимают решения, исходя из предположений о сознательности таких систем».https://hightech.plus/2025/12/22/mnenie-filosofa-mi-mozhem-nikogda-ne-uznat-est-li-u-ii-soznanie
https://scitechdaily.com/we-may-never-know-if-ai-is-conscious-says-cambridge-philosopher
21 — «Генеративные ИИ, такие как ChatGPT, будут писать фальшивые новости, политические речи и идеологические манифесты, искажая восприятие реальности. Люди все чаще будут обращаться к ИИ за информацией, не проверяя ее, что приведет к «оракульскому статусу» ИИ и увеличит риск массовых заблуждений… ИИ уже способен создавать иллюзии, которые могут затмить реальность». https://trends.rbc.ru/trends/futurology/6757e5dd9a79478b02baef8a
22 — «Британские исследователи провели симуляцию военных конфликтов с участием ведущих моделей искусственного интеллекта и получили тревожные результаты: в 95% сценариев модели принимали решение о применении ядерного оружия». https://decrypt.co/359137/openai-google-anthropic-ai-models-nuclear-weapons-war-simulations
Источник иллюстрации: https://stockcake.com
Five Lives on the Earth 
Для отправки комментария необходимо войти на сайт.