Асбестовый пирог от нейросети

04.04.2025, 14:59 Общество

Кулинарная нейросеть RecipeNinja.AI стала героем СМИ — еще недавно приложение предлагало пользователям рецепты мороженого с цианидом, бомбы с ураном и асбестового пирога. Об этом рассказывает блог в «Дзен» Apple SPb Event.

Проект является следствием «вайб-кодинга», явления, получившего широкое распространение среди программистов-любителей. Автор приложения, Том Бломфилд, рассказал, что не занимается профессиональным программированием с 2015 года. RecipeNinja.AI был создан в основном при помощи ИИ, что нашло свое отражение в характере рецептов. Приложение берет простые текстовые запросы, чтобы генерировать изображение и пошаговый рецепт блюда. Как пишут в блоге, на момент написания статьи многие опасные рецепты были удалены — бомбу, отравленное мороженое, пиццу с клеем и другие порождения ИИ спрятали модераторы.

Блогер указывает на опасность слишком поспешного внедрения ИИ, который часто генерирует абсурдные или опасные результаты. Действительно, доверчивый пользователь, отведавший мороженого с цианидом, скорее всего умрет — откуда бот взял информацию о возможности такого сочетания неясно. С другой стороны, в случае асбестового пирога можно предположить, что ИИ мог опираться на информацию Всемирной организации здравоохранения. В 2021 году ВОЗ выпустила документ, указывающий на то, что не найдено убедительных доказательств вреда асбестовых волокон для желудочно-кишечного тракта человека. Поэтому международная организация заявила, что «не считается целесообразным или необходимым устанавливать нормативное значение содержания асбестовых волокон в питьевой воде». Естественно, это не означает, что асбест можно добавлять в пирог — минеральное волокно является промышленным материалом и должно использоваться исключительно по назначению.

Также существуют различия между разными видами асбеста — они отличаются не только по своим промышленным свойствам, но и по степени воздействия на человеческий организм. В документе ВОЗ речь идет о хризотиловом асбесте, который представляет собой гидросиликат магния. Он не обладает устойчивостью к кислоте, и потому выводится из организма за короткий срок. Хризотил сегодня используется в промышленности. Впрочем, у него есть не такой безобидный родственник — амфиболовый асбест. Он представляет собой сложный гидросиликат с молекулой железа, которая обеспечивает ему устойчивость к кислотам. Амфиболы не выводятся из организма человека и потому запрещены во всем мире. Теперь это осталось объяснить нейросети.

Кстати, сегодня из хризотилового асбеста производят асбестоцементные трубы для питьевой воды, канализации и строительства дренажа. Их активно применяют по всему миру. При этом в интернете асбест часто используется в различных шутках — в спорах пользователи советуют надеть штаны из асбеста своим рассерженным оппонентам, требуют асбестовых тканей, когда сердятся сами и т.д. (Асбест обладает огнеупорными свойствами). Высокая частота упоминания минерала могла «привлечь внимание» нейросети в ходе исследования форумов, и так он попал в рецепт.