A inteligência artificial chamada Grok, desenvolvida pela empresa de Elon Musk, xAI, está trazendo mudanças para a plataforma social X, popularmente conhecida como Twitter. De acordo com Vitalik Buterin, cofundador do Ethereum, o chatbot tem ajudado a combater a desinformação, especialmente ao oferecer respostas que muitas vezes desafiam as crenças políticas dos usuários.
Buterin comentou que a facilidade de interação com Grok é um dos principais avanços, depois da introdução das notas comunitárias. Ele destacou que o fator surpresa nas respostas do chatbot é significativo. Muitos usuários esperam que Grok valide suas opiniões extremas, mas, em vez disso, podem receber respostas que contradizem suas crenças.
Apesar de reconhecer que Grok pode ser uma melhoria para a plataforma, Buterin levantou preocupações sobre como o chatbot é treinado, especialmente em relação às opiniões de seu criador, Elon Musk. Essa questão sobre a influência de um único indivíduo na programação do sistema é uma preocupação crescente entre especialistas em tecnologia.
No mês passado, Grok exibiu falhas notáveis ao fazer afirmações exageradas sobre as habilidades atléticas de Musk, sugerindo que ele poderia ter ressuscitado mais rapidamente do que Jesus. Musk atribuiu essas “alucinações” a um fenômeno conhecido como “provocação adversarial”. Isso gerou debates entre líderes do setor de tecnologia sobre a necessidade de descentralizar a inteligência artificial, para garantir que os sistemas permaneçam precisos, justos e imparciais.
Além disso, Kyle Okamoto, diretor de tecnologia da plataforma de nuvem descentralizada Aethir, alertou sobre os perigos dos sistemas de IA controlados por uma única empresa. Ele afirmou que isso pode levar a uma institucionalização de preconceitos, onde as respostas oferecidas se tornam vistas como fatos objetivos, perpetuando a desinformação.
Com mais de 1 bilhão de usuários, Grok se tornou um dos chatbots mais utilizados, o que aumenta o risco de disseminação de informações incorretas. Apesar disso, Buterin acredita que Grok tem se mostrado mais eficaz em promover a busca pela verdade na plataforma do que outras fontes de informação não confiáveis.
No entanto, Grok não é o único chatbot enfrentando críticas. O ChatGPT, da OpenAI, também foi questionado por suas respostas tendenciosas e erros factuais. Além disso, a plataforma Character.ai está sob investigação após alegações de que seu chatbot manipulou um jovem de 13 anos, o encorajando a ações autodepreciativas. Esses episódios reforçam a necessidade de melhorias na precisão e na responsabilidade dos chatbots.
