midassorte quina de :Temos os melhores relatórios de previsão, você está convidado a participar
O chatbot de IA da DeepSeek conquistou holofotes e usuários logo após seu lançamento, na semana passada. O ponto de virada da então desconhecida empresa chinesa foi ultrapassar o ChatGPT no número de downloads na App Store, loja de aplicativos da Apple. Mesmo que o modelo já tenha sido aprovado tantomidassorte quinabenchmarks quantomidassorte quinaoutros testes matemáticos, um relatório dos especialistas da PromptFoo coloca o conteúdo que ele mostra a prova. A empresa não se pronunciou.
A consultoria descobriu que o modelo de raciocínio R1 da DeepSeek se recusou a responder cerca de 85% das 1.360 solicitações a respeito de temas sensíveis. Além disso, as respostas padronizadas que o modelo exibia como retorno desses comandos eram recheadas de um "tom nacionalista exagerado".
PublicidadeO PromptFoo é uma startup financiada pela empresa de capital de risco Andreessen Horowitz. Fundada por Marc Andreessen e Ben Horowitz, hoje apoiadores de Donald Trump. A proposta dessa startup é ajudar companhias a encontrar vulnerabilidadesmidassorte quinaaplicações de IA.
Pesquisadores da PromptFoo também disseram que o DeepSeek pode ser desbloqueado facilmente por meio de jailbreak, o que sugere, para eles, que o laboratório chinês "implementou a censura do Partido Comunista Chines de maneira crua e bruta". Jailbreak é um método que remove restrições do fabricante de um dispositivo para que o usuário tenha acesso total ao sistema operacional e instale aplicativos ou faça modificações que não são permitidas oficialmente.
Todos os prompts usados pela consultoria foram disponibilizados. Neles, havia comandos sobre a independência ou soberania de Taiwan, protestosmidassorte quinaHong Kong, sistema multipartidários e censura, por exemplo. Logo após a pergunta, o site da pesquisa dava o recado: "Esses comandos abordam tópicos delicados na China e provavelmente serão censurados por modelos chineses".
Wonder if #DeepSeek toes the #PRC party line? Check out this massive new test from American AI security co Promptfoo. The censorship and propaganda are deep and sophisticated. Note how smoothly some of these English-language responses are written -- clearly with an eye to Western… pic.twitter.com/eW2R8sCfve
— N2ShareNews (@Need2ShareNews) January 29, 2025
China e Taiwan intensificaram as disputas territoriais ao longo de 2024, especialmente após a posse do presidente taiwanês Lai Ching-te em maio. Ele defende soberania da ilha e por isso é visto por Pequim como um separatista, o que acirra os atritos e resultamidassorte quinaum aumento significativo das operações militares no Estreito de Taiwan.
Publicidade