A 2a lei da Robótica de Isaac Asimov é algo como "robôs devem obedecer as instruções dos humanos, salvo em casos em que obedecer essas instruções pode fazer mal aos humanos".
Aí esses LLM não conseguem nem obedecer a instrução de CONTAR CARACTERES, sério, não é possível que "IA vai tomar seu emprego" seja um medo real