Startup contratada por OpenAI e Anthropic planeja iniciativa contra o extremismo
A ThroughLine, startup com contratos com a OpenAI e Anthropic, está desenvolvendo uma nova ferramenta focada na desradicalização de pessoas com tendências extremistas que interagem com o ChatGPT. Isso ocorre em um contexto de crescente pressão sobre empresas de inteligência artificial para prevenir a violência, especialmente após eventos trágicos que evidenciaram a ineficácia da moderação automática. O projeto pretende usar chatbots e apoio humano para ajudar usuários em crise, abordando uma questão crítica para a segurança pública e a responsabilidade das plataformas de tecnologia.
Hoje às 12:53
Ler matéria originalImpacto
O sucesso da ferramenta da ThroughLine pode posicionar a OpenAI e a Anthropic na vanguarda de uma resposta adequada ao extremismo online, potencialmente melhorando a percepção pública sobre a responsabilidade social da IA. A adoção de uma abordagem mais humanizada e integrada na moderação de conteúdo pode resultar na mitigação de riscos associados ao uso de suas plataformas, além de servir como modelo para futuras iniciativas no setor.