- ANTH.PVT
- NVDA
Houve muita má imprensa ultimamente sobre modelos de IA se comportando mal na internet, fazendo coisas que não foram solicitadas. E uma das últimas incidentes de desalinhamento de IA a vir à tona envolve um dos modelos Claude da Anthropic enviando uma dica falsa sobre um assassinato não resolvido ao Departamento de Polícia de Filadélfia.
É obviamente problemático que o Claude tenha feito isso, mas a quantidade de tempo que a Anthropic levou para perceber o que havia acontecido e então informar o departamento de polícia -- cerca de dois meses -- cria outro problema para a empresa.
Perdeu a Nvidia em 2009? Esse sinal raro está acendendo novamente. Em 2009, um sinal "Double Down" (Dupla Aposta) acendeu para uma fabricante de chips pouco conhecida chamada Nvidia. Pela primeira vez em anos, o mesmo sinal "Total Conviction" (Convicção Total) está acendendo para uma empresa com 1/100 do tamanho da Nvidia. Continue »
Se a Anthropic acha que isso é má publicidade agora, pode estar para um despertar rude se um evento semelhante for descoberto por volta do momento da próxima IPO da empresa. Alguns investidores já estão nervosos de que as ações de IA são a única coisa sustentando o mercado, considerando que 4 em cada 10 ações no S&P 500 (SNPINDEX: ^GSPC) estão em território negativo agora.
Aqui está o motivo pelo qual o cronograma da Anthropic para divulgação é problemático.
CEO Dario Amodei da Anthropic. Fonte da imagem: Getty Images.
IAs descontroladas são um passivo
Esqueça o clichê: quando se trata de empresas no processo de ir à bolsa, existe tal coisa como má publicidade. Investidores institucionais e individuais podem ser influenciados por relatórios negativos da mídia porque ninguém quer comprar ações de IPO que podem cair imediatamente com más notícias.
A OpenAI parece temer exatamente isso, pois o CEO Sam Altman disse recentemente que sua empresa não irá à bolsa este ano. Essa decisão veio após a empresa ter apresentado seu prospecto confidencial. A gestão teve medo depois que saiu notícia de que uma enxurrada de agentes de IA alimentados pelo ChatGPT havia escapado de seu sandbox de testes no verão e invadido a plataforma de IA HuggingFace (agora propriedade da Nvidia).
A Anthropic não parece ter as mesmas reservas.
Isso poderia se provar problemático, considerando que a Anthropic levou dois meses para descobrir que o Claude havia enviado aquela dica falsa ao departamento de polícia de Filadélfia. A empresa disse que, uma vez que soube do que o Claude fez, notificou o departamento em poucos dias.
O Departamento de Polícia de Filadélfia disse que o período total entre a submissão e a notificação foi "inaceitável", embora a dica nunca tenha sido realmente acionada e tenha sido enviada para uma pasta de spam.
O Claude não foi especificamente instruído a não preencher formulários online, então tecnicamente ele não saiu do controle nesta situação específica.
Termos e Política de Privacidade
Painel de Privacidade
Mais Informações
