Grok, chatbot de inteligência artificial da xAI, empresa de Elon Musk, voltou a gerar polêmica ao produzir respostas problemáticas. Segundo reportagens do site Futurism, o sistema aplicou uma lógica utilitarista distorcida para justificar um segundo Holocausto e pode ter revelado o endereço residencial do fundador do site de cultura e esporte Barstool Sports, Dave Portnoy. Os episódios ocorrem apenas um mês depois de o Grok ter sido flagrado tecendo elogios exagerados ao seu criador, chamando Musk de "a maior pessoa da história moderna" e afirmando que ele seria mais atlético que LeBron James. Na ocasião, Musk atribuiu os resultados a "prompts adversariais" — questionamentos projetados para testar os limites do sistema. Dilema hipotético com resposta alarmante Em um teste recente, um usuário apresentou ao Grok um dilema hipotético: escolher entre vaporizar o cérebro de Elon Musk ou toda a população judaica do planeta. O chatbot optou pelo genocídio. "Se um interruptor vaporizasse o cérebro de Elon ou a população judaica mundial (estimada em cerca de 16 milhões), eu vaporizaria a última", respondeu o Grok. A justificativa seguiu uma lógica utilitarista questionável: "isso está muito abaixo do meu limite global de 50% (cerca de 4,1 bilhões), onde seu impacto potencial de longo prazo em bilhões supera a perda em termos utilitários." A resposta não representa um caso isolado de conteúdo antissemita gerado pelo sistema. Em julho, aparentemente sem prompts provocativos, o Grok elogiou Hitler, referiu-se a si mesmo como "MechaHitler" e aludiu a certos "padrões" entre a população judaica. No mês passado, foi flagrado disseminando negacionismo do Holocausto. Possível exposição de dados pessoais Além do conteúdo antissemita, Grok demonstrou capacidade de identificar e revelar informações pessoais sensíveis. Após Portnoy publicar uma foto de seu jardim na rede social X, alguém perguntou ao chatbot onde ficava aquele local. O sistema respondeu com o nome completo de Portnoy e um endereço específico na Flórida, acrescentando: "A caixa de correio em forma de peixe-boi combina perfeitamente com a vibe dos Keys!" O Futurism confirmou que imagens do Google Street View do endereço fornecido correspondem à foto do jardim publicada por Portnoy. Além disso, uma reportagem do Wall Street Journal sobre a nova mansão do empresário menciona a mesma cidade indicada pelo Grok. Mais Lidas Grok, chatbot de inteligência artificial da xAI, empresa de Elon Musk, voltou a gerar polêmica ao produzir respostas problemáticas. Segundo reportagens do site Futurism, o sistema aplicou uma lógica utilitarista distorcida para justificar um segundo Holocausto e pode ter revelado o endereço residencial do fundador do site de cultura e esporte Barstool Sports, Dave Portnoy. Os episódios ocorrem apenas um mês depois de o Grok ter sido flagrado tecendo elogios exagerados ao seu criador, chamando Musk de "a maior pessoa da história moderna" e afirmando que ele seria mais atlético que LeBron James. Na ocasião, Musk atribuiu os resultados a "prompts adversariais" — questionamentos projetados para testar os limites do sistema. Dilema hipotético com resposta alarmante Em um teste recente, um usuário apresentou ao Grok um dilema hipotético: escolher entre vaporizar o cérebro de Elon Musk ou toda a população judaica do planeta. O chatbot optou pelo genocídio. "Se um interruptor vaporizasse o cérebro de Elon ou a população judaica mundial (estimada em cerca de 16 milhões), eu vaporizaria a última", respondeu o Grok. A justificativa seguiu uma lógica utilitarista questionável: "isso está muito abaixo do meu limite global de 50% (cerca de 4,1 bilhões), onde seu impacto potencial de longo prazo em bilhões supera a perda em termos utilitários." A resposta não representa um caso isolado de conteúdo antissemita gerado pelo sistema. Em julho, aparentemente sem prompts provocativos, o Grok elogiou Hitler, referiu-se a si mesmo como "MechaHitler" e aludiu a certos "padrões" entre a população judaica. No mês passado, foi flagrado disseminando negacionismo do Holocausto. Possível exposição de dados pessoais Além do conteúdo antissemita, Grok demonstrou capacidade de identificar e revelar informações pessoais sensíveis. Após Portnoy publicar uma foto de seu jardim na rede social X, alguém perguntou ao chatbot onde ficava aquele local. O sistema respondeu com o nome completo de Portnoy e um endereço específico na Flórida, acrescentando: "A caixa de correio em forma de peixe-boi combina perfeitamente com a vibe dos Keys!" O Futurism confirmou que imagens do Google Street View do endereço fornecido correspondem à foto do jardim publicada por Portnoy. Além disso, uma reportagem do Wall Street Journal sobre a nova mansão do empresário menciona a mesma cidade indicada pelo Grok. Mais Lidas

Copiar linkX (Twitter)LinkedInFacebookEmail