Теперь ИИ хочет отравить людей, и это весело

Как будто кошмар, представляющий собой научно-популярную литературу, написанную ИИ, уже не был достаточно плох, теперь мы достигли точки, когда он превратился из разочаровывающего (написанные ИИ неоязыческие фолианты, наполненные агрессивной дезинформацией о мифах и истории) в потенциально смертельно опасный, с созданными ИИ руководствами по добыче диких растений и грибов. Да, это действительно не то, что вам нужно, как эквивалент генератора случайных слов. Нет, если только вы не хотите, чтобы люди действительно умирали.

Писатели, особенно небольшие издания и независимые писатели в нишевых областях, уже некоторое время пытаются решить проблему книг, генерируемых ИИ. Они заглушают реальных авторов-людей не только из-за огромного объема и влияния, оказываемого на алгоритм, но и потому, что информация в них, по сути, собирается из краудсорсинга, а затем дополнительно перемешивается в процессе «создания» чего-то «нового». Рынок наводнен грудой дезинформации, из-за которой самые худшие и плохо изученные слухи прошлого начинают выглядеть правдоподобными. Это достаточно плохо, когда дело доходит до таких тем, как религия и история — мы все видели, к чему приводит дезинформация по этим предметам — но что-то вроде собирательства, где правильная идентификация растения является вопросом жизни или смерти, внезапно становится гораздо более острой проблемой. проблема.

Когда дело доходит до идентификации книг как созданных ИИ, бывает трудно быть абсолютно уверенным. Всегда возможно, что вы каким-то образом встретили автора, у которого вообще нет присутствия в Интернете, даже в социальных сетях. Тот, кто оказался одновременно плодовитым и ужасным писателем, чья работа примерно так же точна, как обкуренный студент колледжа, надеющийся выжить, просто придя и сдав что-нибудь. Чьи книги имеют кучу подозрительно положительных пятизвездочных рецензий. это не совсем соответствует реальному содержанию книги, а затем несколько оценок в одну или две звезды, написанные реальными людьми, желающими знать, что это вообще за черт? Возможно, но крайне маловероятно.

Тем не менее, трудно доказать обратное, особенно если принять во внимание использование псевдонимов или тот факт, что книги об искусственном интеллекте теперь публикуются без согласия, с указанием реальных имен и личностей авторов. Ситуация запутанная, и все, что у нас есть, — это самые предположения, но некоторые из этих предположений оказываются весьма убедительными, если сопоставить все доказательства.

Именно члены онлайн-сообществ собирателей на Facebook, Reddit и других платформах социальных сетей забили тревогу по поводу этих, почти наверняка созданных искусственным интеллектом, определенно ужасных руководств по поиску и переработке диких продуктов питания.

Книги, о которых идет речь, впервые начали появляться на Amazon примерно в 2022 году, все с очень похожими названиями и обложками, каждая из которых обещает стать неким вариантом идеальной «библии» по поиску пищи или единственным путеводителем по дикой пище, которая вам когда-либо понадобится. Несмотря на эти грандиозные заявления, информация в книгах в лучшем случае неадекватна, в худшем — странна или вводит в заблуждение.

В одной из таких книг есть записи о брокколи, брюссельской капусте, апельсинах и лимонах — обо всех домашних растениях, которые вы можете «добыть», только совершая набеги на чужой сад, и определенно не о том, что вы найдете в дикой природе. Изображения, необходимые для любого руководства по диким съедобным растениям, либо отсутствуют, либо черно-белые, либо не имеют достаточной детализации, чтобы их можно было использовать, а обзоры делятся на бессмысленные пятизвездочные и крайне критические или критические. две звезды требуют знать, почему содержание книги не соответствует заявленным на обложке.

Самым ужасным является тот факт, что предполагаемые авторы этих книг, похоже, вообще не присутствуют в Интернете; даже обратный поиск фотографий их авторов ничего не дал, что позволяет предположить, что эти «фотографии», вероятно, также созданы искусственным интеллектом.

Опытному собирателю такие книги легко отбросить, но, конечно, это тоже не целевая аудитория. Подобные книги предназначены для новичков, и проблема в том, что вы не знаете того, чего не знаете. Хотя некоторые из них более очевидно бесполезны, чем другие (книга о брокколи «Собери свой собственный корм» и книга со списком рецептов, но без реальных инструкций о том, как заставить их прийти на ум), другие будет труднее обнаружить людям, просто начиная с самого начала, и именно здесь все становится действительно опасным.