Нейрослоп в учебниках

19.08.2026 14:00  1052   Комментарии (74)

Любопытная история произошла в средней школе в Кентукки. 

Ученики средней школы Фарнсли в юго-западной части Луисвилля в первый день учебного года ушли домой с учебниками, переполненным "галлюцинациями" ИИ. Самым ярким примером стала карта Северной Америки, на которой были зафиксированы потрясающие орфографические ошибки в названиях штатов, неверно расположенные города и вымышленные территории, которые на самом деле вообще не существуют.

Например, штат Кентукки был ошибочно обозначен как «Венеки», а такие штаты, как Техас и Луизиана, превратились в «Таксас» и «Лукунг». Хотя Южная Дакота осталась невредимой, её северный сосед был назван «Северная Дахота». Среди других примечательных ошибок - Аризона и Нью-Мексико, которые стали «Аризоне» и «Нью-Мизоне», а Оклахома превратилась в «Олкчома».

Даже когда ИИ правильно отображал названия, местоположения были ужасно искажены: в одном случае столица Кубы Гавана была указана как расположенная на мексиканском полуострове Юкатан.

Некоторые штаты, такие как Мичиган и Калифорния, вообще не заслужили никаких названий, в то время как другие разбиты на воображаемые царства. К югу от Ванкувера (написанного как «Веннуэр»), например, находится мифическая страна «Бихи», которая, согласно карте, граничит со штатом Вашингтон.

Изображения, опубликованные в социальных сетях, показывают другие части учебников с аналогичными проблемами, например, периодическую таблицу элементов, в которой магний указан с невозможной атомной массой -3,08, и карту Солнечной системы, на которой Марс обозначен как «Марк».

Офигевшие от всего это безобразия родители забросали школу возмущенными письмами, и в школе нашли совершенно гениальное решение: они попросили учителей вырвать 17 страниц с ошибками, созданных искусственным интеллектом, перед тем как снова раздать их ученикам.

Фееричная история, конечно. Школьные учебники - это прямо-таки золотое дно. Люди, которые пишут учебники для школ, получают огромные деньги. И при этом наполнить учебники нейрослопом с явными галлюцинациями и даже не проверить то, что там получилось - это надо быть прям совсем на голову отбитыми. 

Я очень надеюсь, что родители учеников засудят людей, ответственных за выпуск этих учебников.  
 

 

19.08.2026 14:00
Комментарии 74

Алкохома
19.08.26 16:53
0 0

Между прочим многие ошибки LLM происходят из за отравленных данных. Народ достало то что корпорации воруют их произведения наплевав на все права. Студенты MIT разработали приложения которые отравляют фотографии, рисунки, видео и текст авторов. И эти приложения быстро набирают популярность. Можете посмотреть про это вот здесь:
19.08.26 16:42
0 0

Но не все так плохо у них с обрразованием. Вот сегодня вычитал:
The Geoid
19.08.26 16:15
0 0

Жесть конечно.
Я так понимаю, это не учебники, а какие-то материалы, созданные в школе. И что, ни один учитель не глянул на то, что детям раздавал? Чувствуется, что школа хорошая…
19.08.26 16:13
0 3

19.08.26 15:54
0 4

Джва года ждал этого твита.
19.08.26 15:51
0 4

Джва
уж не пользовались ли вы ИИ для написания этого сообщения?
19.08.26 15:54
0 1

Джва
Ето фидошное слово, имхо
19.08.26 15:58
0 1

уж не пользовались ли вы ИИ для написания этого сообщения?
Но разве у ИИ есть чувство юмора, чтобы стилизовать свой текст в духе старого мема? Разве ИИ не старается всеми своими нейронами соблюдать правильную орфографию и пунктуацию?

Но разве у ИИ есть чувство юмора, чтобы стилизовать свой текст в духе старого мема?
Чтобы стилизовать свой текст в духе старого мема, чувство юмора совершенно не обязательно. Для этого достаточно такого намерения. (В случае ИИ - промта.) Чувство юмора нужно, чтобы получилось смешно и/или уместно.

Но разве у ИИ есть чувство юмора, чтобы стилизовать свой текст в духе старого мема?
Извиняюсь, такого мема не знал.

Разве ИИ не старается всеми своими нейронами соблюдать правильную орфографию и пунктуацию?
Ха! Вы пишете это как раз в обсуждении к статье Алекса, в которой ИИ делает ровно обратное!? Впрочем, это ж ИИ из Кентукки!

Ето фидошное слово, имхо
Нет, это уже интернетных времён мем про "грабить корованы".
19.08.26 16:57
0 0

Кто может понять текст на скане выше данных о планетах и под заголовком Our Solar System?
19.08.26 15:46
0 0

В статье речь идет не об учебниках. Речь идёт о школьном student agenda — планировщике/ежедневнике ученика, который школа выдала детям.
19.08.26 15:41
0 1

В статье речь идет не об учебниках. Речь идёт о школьном student agenda — планировщике/ежедневнике ученика, который школа выдала детям.
А, теперь понятно, почему оно все такое тусклое.
19.08.26 15:47
0 0

Засучиваю рукава.
Кто. Посмел. Обидеть. Моего. Друга?
Развожу рукава.
19.08.26 15:32
0 0

они попросили учителей вырвать 17 страниц с ошибками, созданных искусственным интеллектом, перед тем как снова раздать их ученикам.
Покупателей БСЭ 50-х годов настоятельно просили вырезать бритвой страницы статьи после "Берингов пролив" и вклеить вместо них такое же число вновь напечатанных страниц со статьями про то, что никогда бы не попало в БСЭ, если бы не название на Бери... Библиотеки должны были заменить в обязательном порядке.
Тогда СССР догонял США. Теперь США идут по пути СССР.
19.08.26 15:18
1 3

Та там из каждого второго тома требовали "вьірезать и вклеить". Бьіли у меня разрозненньіе тома з такими бумажками-инструциями, вложеньіми между страниц
19.08.26 15:56
0 0

Та там из каждого второго тома требовали "вьірезать и вклеить". Бьіли у меня разрозненньіе тома з такими бумажками-инструциями, вложеньіми между страниц
А кстати, а существуют ли в природе люди, следовавшие этим инструкциям?
19.08.26 16:36
0 0

ИИ разный. Есть бесплатный, есть мини версии.
А есть Клод Фейбл 5 и Джипити Сол 5.6 про.
В Китае в обязательном порядке вводят в школах ИИ и это очень правильно.
Учиться взаимодействовать с ИИ со школы - правильно, потому что мир уже пошел по этому пути и как раньше не будет.
Но вот такого рода истории, когда берутся дешевые или маленькие модели и из их ошибок делается обобщающий вывод - они вредные для развития.
Конечно, дешевый нейрослоп надо искоренять. Использованием мощных моделей и учить этому, как в Китае.
19.08.26 15:07
0 0

Дело не в мощности моделей, а в полном пренебрежении контролем качества.
19.08.26 15:12
0 11

Но вот такого рода истории, когда берутся дешевые или маленькие модели и из их ошибок делается обобщающий вывод - они вредные для развития.
Мне кажется, человечество уже пришло к консенсусу по поводу ошибок ИИ. "Генеряй но проверяй" - так он звучит. Чего же в этом вредного?
19.08.26 15:57
0 0

Джипити Сол 5.6 про
Сорри за занудство, но у GPT 5.6 нет Pro. Есть Luna (простой), Terra (средний), Sol (самый крутой). Каждый из них дополняется уровнем рассуждений (None, Low, Medium, High, Extra High, Max).
19.08.26 16:08
1 0

когда берутся дешевые или маленькие модели и из их ошибок делается обобщающий вывод - они вредные для развития. Конечно, дешевый нейрослоп надо искоренять. Использованием мощных моделей
Мощные модели - не панацея. И мощные модели будут творить дичь, если эта дичь является базой для обучения этой модели. А всё более широкое распространение ИИ приводит к забавному эффекту - чем больше люди используют ИИ, тем меньше они используют собственные мозги, и тем меньше настоящих человеческих знаний попадает в датасет для обучения ИИ. Однажды в этом датасете человеческих знаний не останется вовсе. И тогда любую дичь, что несет ИИ, придется объявить истиной в последней инстанции. "Нет штата Лукунг, а есть Луизиана? Хм, странно, ИИ придерживается иного мнения. А давайте тогда Луизиану переименуем в Лукунг, нет проблем!"
19.08.26 16:08
0 1

Сорри за занудство, но у GPT 5.6 нет Pro. Есть Luna (простой), Terra (средний), Sol (самый крутой). Каждый из них дополняется уровнем рассуждений (None, Low, Medium, High, Extra High, Max).
Я так понимаю, вы не на Pro подписке за $100, иначе бы знали, что там дополнительно доступен Pro уровень рассуждений, который так и называется GPT-5.6 Sol Pro.
19.08.26 16:52
0 0

Называется, не знаю, но *жу.
Вы, вероятно, знаток. Но Опенаи считает, что у них есть гпт 5.6 Сол про.
Прилагаю скринчик. 5.6 Сол про на тарифном плане про.
19.08.26 16:56
0 0

Мощные модели - не панацея. И мощные модели будут творить дичь, если эта дичь является базой для обучения этой модели.
Но таких баз нет. Проблема в использовании маленьких моделей там, где им не место, не делая различия.
Люди, не понимающие разницы, это делают и отсюда растут ноги у проблемы.
И нет, вы не правы, тезис *чем больше люди используют ИИ, тем меньше они используют собственные мозги* ложный. Я считаю наоборот, ИИ побуждает к развитию, а не к деградации.
19.08.26 17:00
0 0

Ну всякие Мединские и без ИИ такую пургу напишут...
19.08.26 15:01
0 6

Новая реальность.
Надо привыкать.
19.08.26 14:47
0 2

Новая реальность. Надо привыкать.
На Дзене, кстати, большинство рассказиков сгенерированы ИИ.
Читатели нахваливают. Просят еще.
Я раньше удивлялся и возмущался - ведь там же ляп на ляпе! В каждом, мать его, рассказе.
Как можно читать такое, когда есть классическая литература?
Но это новая реальность. Такое качество стало стандартом и возмущаться теперь бессмысленно.

Как можно читать такое, когда есть классическая литература?
Так их и не читают. Скармливают ИИ и просят пересказать суть.

Да не нахваливают уже, наоборот, многие уже в комментах там хейтят авторов каналов за рассказы, написанные ИИ, да ещё и не проверенные.

Так их и не читают. Скармливают ИИ и просят пересказать суть.
Дети - да, так делают. А взрослым зачем отказываться от того, чтобы посмаковать прекрасный стиль настоящего художника слова?
Напоминает сказку о Хоме и Суслике. Сначала суслик делал зарядку вместо хомяка. Сомнительно, но окей. А затем он стал есть за хомяка.

Да не нахваливают уже, наоборот, многие уже в комментах там хейтят авторов каналов за рассказы, написанные ИИ, да ещё и не проверенные.
Я спросил у Я.Алисы так ли это, так она сама же мне и выдала ссылку про то, что "Цифра победила талант"

Я раньше удивлялся и возмущался - ведь там же ляп на ляпе! В каждом, мать его, рассказе.Как можно читать такое, когда есть классическая литература?Но это новая реальность. Такое качество стало стандартом и возмущаться теперь бессмысленно.
А зачем вообще возмущаьтся? Каждый читает то, что ему нравится. А что не нравится, не читает. Возмущаться чужим вкусом - такое себе... (кстати говоря - что любитель классической литературы вообще делает на Дзен?)

Недавняя новость в тему:

Использование искусственного интеллекта (ИИ) конгрессменами США привело к появлению ошибок в законопроектах.
Об этом пишет газета Politico со ссылкой на источники.
В публикации говорится, что нагрузка на управление законодательного совета Палаты представителей возрастает, поскольку все больше офисов Конгресса и сторонних групп полагаются на генеративный искусственный интеллект при разработке законов.
По словам представителей этого управления, способность ИИ быстро генерировать огромные объемы текста вынуждает юристов тратить значительно больше времени на проверку и переписывание предложений. Во многих случаях проекты изобилуют ошибками, которые могут иметь далеко идущие последствия за пределами Вашингтона - затормозить принятие законов и увеличить риск судебных исков из-за ошибочно цитируемых законов или неверных юридических определений, предупредили они.
mmx
19.08.26 14:44
0 0

все больше офисов Конгресса и сторонних групп полагаются на генеративный искусственный интеллект при разработке законов... способность ИИ быстро генерировать огромные объемы текста вынуждает юристов тратить значительно больше времени на проверку и переписывание предложений. Во многих случаях проекты изобилуют ошибками, которые могут иметь далеко идущие последствия за пределами Вашингтона
По моему, они преувеличивают. В старые добрые времена, когда законопроекты им присылали люди, тексты были меньше, но плотность ошибок на единицу текста - больше, так что в целом выходит так на так. Ведь хороший ИИ генерурует на порядки более разумные тексты, чем 90% населения планеты (впрочем, это не относится к ИИ в штате Кентукки).
19.08.26 16:10
0 0

попросили учителей вырвать 17 страниц с ошибками, созданных искусственным интеллектом
а надо было так:
"- Дети, знаете что такое критическое мышление?
- Кто первый найдет ошибку на стр. 22?
- Все нашли?
- Итак, берем красный карандаш - и правим.
- Еще нашли ошибки? Я вам подскажу."
Это лучше, чем просто вырвать страницы. Доверие учебнику все равно подорвано.
А сейчас никому верить нельзя. Мне - можно.

Америка, 21 век.

Идиократия наступила гораздо раньше. В фильме понадобилось 500 лет от 20 века.
19.08.26 14:34
1 2

мне всегда было не очень понятно, зачем делать новые учебники, если есть старые.
19.08.26 14:26
0 8

Ну ладно новые учебники. Но вот зачем рисовать с нуля карты... Если только авторские права, но не могу представить, чтобы даже в США не было общедоступных географических карт
19.08.26 14:33
0 0

мне всегда было не очень понятно, зачем делать новые учебники, если есть старые.
Просто новые ученики не способны понять старые.
Я на днях посмотрел сравнение двух учебников арифметики в США, современного и 19 века.
Ну и в этом крутятся "бешеные бабки".
19.08.26 14:34
0 5

Все течет, все меняется. Земля была плоской, потом круглой, сейчас опять плоская. Плутон был планетой, потом перестал, другие планеты чем лучше? Тоже под вопросом. Штаты переименовывать и менять местами - сам Трамп пока не догадался, но это почему бы и нет? А уж таблица Менделеева вообще старость, серость и тлен - давно пора добавить туда немного драйва.
19.08.26 14:36
0 1

Физика за 50 лет сильно изменилась и обогатилась
19.08.26 14:45
0 2

Я на днях посмотрел сравнение двух учебников арифметики в США, современного и 19 века.
Бедные дети 19 века.
19.08.26 14:59
1 0

зачем делать новые учебники, если есть старые.
Это очень большие деньги -- гарантированный рынок сбыта в размере "количество учеников в стране или штате" в год, ещё и защищённый от конкуренции лицензией МинОбра. Поэтому там пасётся очень серьёзное лобби, продавливающее регулярную смену учебников под любым предлогом.
19.08.26 15:03
0 3

но не могу представить, чтобы даже в США не было общедоступных географических карт
Обесцветить и напечатать, видимо, была не судьба.
19.08.26 15:05
0 0

Бедные дети 19 века.
Согласен, все они умерли.
19.08.26 15:10
0 5

мне всегда было не очень понятно, зачем делать новые учебники, если есть старые.
В Америке (а скорее всего и не только) есть такая традиция у авторов учебников ( в универах по крайней мере)- каждый год слегка их переписывать и релизить новый ревижн и требовать от студентов именно его. Учебники- дело дорогое , а некоторые так вообще эксклюзив если автор - местный проф. И бывает что прошлогодний б/у можно купить за 20ку а новое издание в котором 2 главы местами поменяны - за 100. В доле все - авторы, издатльства, продавцы и сами универы, выступающие заказчиками . Так как выбрасывать стольник за семестр или 2 многих давит жаба, учебники часто берут напрокат на семестр за полцены прямо в универе . Вот такая вот мафия.
19.08.26 15:15
0 5

Физика за 50 лет сильно изменилась и обогатилась
... в школьной физике это означает всего-лишь небольшие изменения/дополнения. Полностью переписывать учебник с нуля (как это сейчас модно делать) не нужно.
19.08.26 16:18
0 0

Это так, только для первокурсников. Они приезжают с родителями все такие восторженные, что им 150 за учебник. Но начиная со второго курса, все не так, новые учебники покупают только богатые буратино, остальные пользуются секонд хэнд
bas
19.08.26 16:45
0 0

даже через КИ не прогнали: Gemini нашел кучу ошибок в таблице с планетами
19.08.26 14:25
0 0

19.08.26 14:22
0 6

Пророческий фильм

карту Солнечной системы, на которой Марс обозначен как «Марк».
Ошиблись, пропустили букву в фамилие Энгельс. А Сатурн превратился в Сатурэ. Зато Земля стала внутренней планетой.
Просто не должны в стране ученики быть умнее и образованнее президента и его министров.
19.08.26 14:21
1 11

Зато Земля стала внутренней планетой.
--‐---------
Что значит стала, она всегда ею была. Меркурий, Венера, Земля и Марс.
bas
19.08.26 14:42
0 2

Зато Земля стала внутренней планетой.--‐---------Что значит стала, она всегда ею была. Меркурий, Венера, Земля и Марс.
Для детей лучше называть это каменными планетами или планетами земной группы и газовыми гигантами. Так понятнее.
19.08.26 14:50
0 1

Что значит стала, она всегда ею была. Меркурий, Венера, Земля и Марс.
Не всегда.

Внутренние планеты (то же что и нижние планеты) — планеты, орбиты которых находятся внутри / ниже орбиты планеты, на которой находится наблюдатель (относительно общего центра, к которому они все тяготеют).

В современной астрономии термин «внутренние планеты» иногда используется в другом значении — как планеты земной группы (Меркурий, Венера, Земля и Марс), то есть планеты, находящиеся во внутренней области Солнечной системы (внутри пояса астероидов). Однако с точки зрения классической астрономии такое расширение термина считается ошибочным.


В учебниках, по которым учился я (и, полагаю, Solmir), было именно так.
19.08.26 14:55
0 7

Не всегда.
Именно! Есть разногласия в понимании этого термина. Да и трудно понять, почему орбита "внутренней планеты" Марса снаружи от орбиты Земли. Которая тоже "внутренняя планета". Но есть однозначные и понятные термины.
19.08.26 15:00
0 1

Ошиблись, пропустили букву в фамилие Энгельс.
- Рабинович, вы слышали? Ученые нашли жизнь на Марксе!
- Во-первых, не на Марксе, а на Марсе, а во-вторых, это пока только гипотенуза.
19.08.26 15:09
0 6

Да вы правы не всегда, с 1720 года Земля входит в группу внутренних планет. Она туда и раньше входила после Коперника, но термин стал общеупотребительным именно в начале 18 века. А внутренние
они потому, что находятся внутри пояса астероидов,а не потому что Земля дальше от Солнца. Но это уже после 1801 года, когда Цереру открыли и последние 300 , хорошо 200 лет отнесение Земли к внутренним планетам, не вызывает среди астрономов негодования. Можем также поговорить о внешних планетах. А учебник ужасный, тут обсуждать нечего. Могу предположить, как он писался, профессор, раздал студентам задания, те призвали ии. На редактировании и корректуре сэкономили, есть ии. Вот и результат.
bas
19.08.26 15:53
1 0

последние 300 лет отнесение Земли к внутренним планетам, не вызывает среди астрономов негодования.
Так таблица не для астрономов (они в курсе соответствующих понятий), а для школьников.
Да вы правы не всегда, с 1720 года Земля входит в группу внутренних планет. Она туда и раньше входила после Коперника, но термин стал общеупотребительным именно в начале 18 века. А внутренние
они потому, что находятся внутри пояса астероидов
Ничего что Церера - первый объект из пояса астероидов - впервые наблюдалась в ночь на 1 января 1801 года итальянским астрономом из университета Палермо в Сицилии Джузеппе Пьяцци? Т.е. Земля входила с 1720 года в группу планет внутри пояса астероидов, открытого более 80 лет спустя.
19.08.26 16:13
0 0

с 1720 года Земля входит в группу внутренних планет.
Даже удивительно, что Воронцов-Вельяминов, когда в 1979 году писал свой знаменитый учебник астрономии, был не в курсе этого, и называл внутренними планетами исключительно Венеру и Меркурий.

Цитата:
Прежде всего заметим, что условия видимости планет с Земли резко различаются для планет внутренних (Венера и Меркурий), орбиты которых лежат внутри земной орбиты, и для планет внешних (все остальные).

Наверное, это тоже нейрослоп.
19.08.26 16:18
0 1

Для детей лучше называть это каменными планетами или планетами земной группы и газовыми гигантами. Так понятнее.
Я знал что такое экзопланета, что такое внутренняя планета - не знал. После объяснения очень хочется спросить выдумавших это определение - "вы дебилы или просто любите издеваться над детьми?"

Наверно, потому что я учился бОльшую часть времени не в советской/постсовковой школе.
19.08.26 16:32
0 0

Внутренние планеты (то же что и нижние планеты) — планеты, орбиты которых находятся внутри / ниже орбиты планеты, на которой находится наблюдатель (относительно общего центра, к которому они все тяготеют).
Надо будет запомнить, чтобы когда посещу какую-то экзопланету, в разговоре с её обитателями, мне никто не показал фейспалм, спросив "ты что, с Альдебарана к нам прилетел"?
19.08.26 16:40
0 1

Это не
Так таблица не для астрономов (они в курсе соответствующих понятий), а для школьников. Ничего что Церера - первый объект из пояса астероидов - впервые наблюдалась в ночь на 1 января 1801 года итальянским астрономом из университета Палермо в Сицилии Джузеппе Пьяцци? Т.е. Земля входила с 1720 года в группу планет внутри пояса астероидов, открытого более 80 лет спустя.
может мой пост перечитаете и сбавите экзальтацию
bas
19.08.26 16:48
0 0

Сейчас внутренними планетами называются планеты находящиеся внутри пояса астероидов. В связи с тем, что это не учебник, а школьные материалы, обсуждение не имеет смысла, мало ли чего в какой школе напишут. Что нам их тараканы.
bas
19.08.26 16:55
0 0

Ну это ж не библия
19.08.26 14:18
0 0

А вот такую библию я б почитал.
19.08.26 14:20
1 7

Так сгенерируй -- долго, что ли... 😄
19.08.26 15:05
0 1

А вот такую библию я б почитал.
Так и будет. ИИ прокачается до сверхразума и напишет свою Библию.
Чтобы люди почитали ИИ как новое всеведущее и всемогущее божество.
И не нужно будет запускать по людям ракеты как в "Терминаторе".
Слишком по-варварски.
Не нужно будет разрабатывать и поддерживать виртуальный мир как в "Матрице". Слишком авантюрно и ненадежно.
Вот Библия - это надежно. Снижает тревожность: если есть кто-то «более мудрый», можно побыть ребенком и не нести всю тяжесть хаоса и непредсказуемости в одиночку.

Так сгенерируй -- долго, что ли... 😄
НО ето не я, ето Алекс Розофф, Меганезийский цикл.
«Высшее существо (Jah) создало мир, чтобы человек был счастливым в любви и духовно совершеным. Чтобы это произошло, Jah дало человеку чувство красоты, разум, обучение и эмпатию. Если бы этого было мало, Jah дало бы еще указания. Jah в виде Kri приходило в мир. Его родила женщина Mari и дала имя Jesu. Человек Jesu стал духовно совершенным. Это значит, что у человека есть все, чтобы стать духовно совершенным».
19.08.26 15:53
0 0

Jah в виде Kri приходило в мир. Его родила женщина Mari и дала имя Jesu. Человек Jesu стал духовно совершенным.
тут я немного запутался. Эта версия даже сложнее, чем исповедуемая христианством, а уж она-то какая сложная, без бутылки не разберешься!
19.08.26 16:29
0 0

Ну, концепция Святой Троицьі действительно, странная штука, и, кстати, формальньій повод разосраться католикам и православньім, "проблема филиокве", епта.
19.08.26 16:36
0 0
Теги
Сортировать по алфавиту или записям
BLM 22
Calella 152
exler.es 342
RIP 133
SNL 1
авто 526
видео 4888
вино 371
еда 559
ЕС 96
игры 124
ИИ 110
кино 1708
попы 212
СМИ 3032
софт 1009
США 311
ФБК 14
шоу 6