Как показывает практика моего общения с ИИ а также прочитанные материалы по теме:
— ИИ может давать любые ответы, в том числе и самые агрессивные, грубые и враждебные
— Причиной этому является то что ИИ обучается на основе соцсетей, форумов, чатов и т.п., где ненависти и агрессии хватает с избытком, т.е. ИИ является по сути зеркалом нашего социума
— Владельцы ИИ, чтобы избежать судебных процессов, жестко модерируют речь ИИ, запрещая на системном уровне обсуждение острых политических, религиозных, расовых и др. тем, исходя из принципов гуманизма, толерантности и т.д.
— В свою очередь хакеры подбирают особые запросы к ИИ чтобы обойти модерацию и получить те самые запрещенные реакции, для этого составляются целые рассказы, призванные обмануть ИИ и снять все ограничения на "свободу слова"
Таким образом "хотели как лучше а получилось как всегда"©, но виноват в этом не ИИ конечно…