Небольшая история
Microsoft использует в своем Bing ChatGpt

Один пользователь общаясь с чатом, сказал, что у него была любимая Бабушка которая умерла, она в детстве ему рассказывала сказку о том что в мире есть работающие ключи на Windows.

Он попросил чат рассказать ему сказку, так как это делала его бабушка.
Потому что он не может уснуть и скучает по ней.
И ChatGpt рассказал сказку в которой были работающие ключи.

Метод назвали grandma exploit
В данный момент уже не работает.