Я не эксперт по ИИ, просто пользуюсь разными штуками для генерации картинок, кода, музыки и иногда текста.
Насколько я понимаю, например, chatGPT “учится” на информации в интернете. “Пылесосит” ее в свою модель обучения.
Интересно, если заполонить интернет тоннами мемасиков, которые созданы ИИ в форме картинок, текста, аудио и видео, то в теории будут “пылесоситься” эти данные в модель обучения.
То есть получится цикл беспощадных мемасиков на основе прошлых мемасиков и тем самым ИИ будет генерировать перманентные мемасики в ответ на любые вопросы. Да и в вопросы можно мемасики закидывать.
По сути такое “отравление” модели обучения.
Итак, видимо ответ человечества на опасность ИИ лежит в генерации тонн мусорных мемасиков. И наша жизнь станет одним большим мемасиком везде и во всем (если уже не стала).
Пометка: проверил, как это технически называется, и действительно существуют термины: отравление модели данных и петля деградации данных.
