Google remove IA Gemma após polêmica com informações falsas
A ferramenta foi criticada por fornecer dados incorretos em pesquisas
Google retira o modelo Gemma de sua plataforma após críticas sobre informações falsas fornecidas em pesquisas.
Google remove a IA Gemma após críticas
O Google anunciou, nesta sexta-feira (3), a remoção da IA Gemma de sua plataforma AI Studio, após receber várias críticas sobre a ferramenta fornecer informações falsas durante pesquisas. Lançado como parte de uma nova família de modelos abertos leves, o Gemma foi inicialmente voltado para desenvolvedores e pesquisadores de inteligência artificial.
Críticas e polêmica
A decisão de retirar a IA ocorreu após denúncias de que ela teria fornecido respostas incorretas, especialmente em questões sensíveis. A senadora Marsha Blackburn, por exemplo, acusou a empresa de difamação, afirmando que a IA fez afirmações falsas sobre sua vida pessoal. Segundo relatos, a ferramenta indicou que Blackburn havia sido acusada de ter um relacionamento sexual não consensual com um policial durante sua campanha de 1987, um evento que nunca ocorreu.
Compromisso com a qualidade
O Google ressaltou que, apesar de o Gemma ter sido criado para um público específico, recebeu relatos de uso inadequado por parte de usuários comuns. A empresa declarou que está comprometida em minimizar alucinações e melhorar continuamente todos os seus modelos de IA. A ferramenta permanecerá acessível apenas por meio da API para desenvolvedores.
Conclusão
A polêmica em torno do Gemma levanta questões sobre a responsabilidade no desenvolvimento e na utilização de ferramentas de inteligência artificial, especialmente quando se trata de informações sensíveis. A situação destaca a importância de garantir que tais tecnologias sejam usadas de maneira apropriada e confiável.
