رغم أن “شات جي بي تي” يمنع إنشاء هويات حكومية رسمية، فإن شركة “جينيانس” أوضحت أن المخترقين تمكنوا من خداع نموذج الذكاء الاصطناعي بإقناعه أن غرضهم هو تصميم نموذج لأغراض شرعية.