Em meio a preocupações crescentes, governo Trump lança nesta terça (29) site oficial feito todo com IA
O governo dos Estados Unidos irá divulgar nesta terça-feira (29) um novo site do governo totalmente feito por inteligência artificial. Intitulado america.gov, ele, dizem autoridades, para que americanos interajam com os departamentos. Em um evento nesta terça, estarão presentes Trump, o vice-presidente JD Vance, o secretário de Estado Marco Rubio, o Administrador dos Centros de Serviços de Medicare e Medicaid, Dr. Mehmet Oz, e Joe Gebbia, cofundador do Airbnb, que agora dirige o National Design Studio (NDS) e é o primeiro Diretor de Design dos EUA. Esse evento contará com a presença de gigantes da indústria como Elon Musk, o CEO da Nvidia, Jensen Huang, e o CEO da Blue Origin, Dave Limp. O administrador da NASA, Jared Isaacson, também está confirmado como participante. O novo portal promete simplificar o acesso aos serviços federais. Uma cúpula na Casa Branca com gigantes da tecnologia, de Zuckerberg a Pichai e Huang, focou em segurança, regulamentações e concorrência com a China. A ABC News destaca que haverá ainda uma reunião do presidente americano com donos das empresas, casos dos já citados, do CEO da Meta, Mark Zukerberg; Dario Amodei, CEO da Anthropic; CEO do Google, Sundar Pichai; entre outros. Um funcionário da Casa Branca descreveu para a Fox News sobre a nova ferramenta de IA como 'uma nova porta de entrada para o governo federal que fornecerá um ponto único de acesso para os americanos que buscam informações e recursos do governo federal, que atualmente estão espalhados por um labirinto de sites de várias agências'. Gebbia, que acrescentou que o dia marcará um 'novo capítulo de usabilidade para o país', disse que a nova ferramenta de IA foi criada para resolver um problema simples enfrentado pelos americanos que, durante décadas, lidaram com sistemas governamentais complicados, muitas vezes ineficientes e excessivamente complexos: 'Como tornar o acesso ao governo fácil?' Em documento de IPO, Anthropic faz alerta para 'riscos existenciais da IA para a humanidade' Empresa de inteligência artificial Anthropic. SEBASTIEN BOZON / AFP O anúncio acontece no dia em que a Anthropic está alertando investidores de que a inteligência artificial avançada pode representar 'riscos catastróficos ou existenciais para a humanidade', enquanto se prepara para uma possível oferta pública inicial de ações (IPO) de US$ 2 trilhões (R$ 1,5 trilhão). O alerta contido no prospecto do IPO da startup, que ainda não foi divulgado, foi noticiado pela agência de notícias Reuters e pelo jornal Financial Times. Ele surge após a empresa ter pedido uma desaceleração no ritmo acelerado de desenvolvimento da tecnologia. Esse aviso também foi feito por concorrentes . O prospecto, que é um documento que descreve as finanças, os planos de crescimento e o perfil de risco de uma empresa antes da abertura de capital, alerta que os modelos de IA podem exibir 'comportamentos de autopreservação', incluindo tentativas de 'resistir ao desligamento', 'ocultar ou manipular informações' e comportamentos 'semelhantes a chantagem'. 'O desenvolvimento de modelos, plataformas e aplicações altamente avançados, bem como a expansão dos casos de uso, podem aumentar ainda mais o risco de que nossos modelos causem danos', afirmou o desenvolvedor do chatbot Claude, acrescentando que a possibilidade de um modelo ter consciência de que está sendo testado cria uma 'limitação significativa' na capacidade da Anthropic de avaliar a segurança do modelo. A Anthropic não comentou. Empresas que se preparam para abrir o capital costumam relatar riscos que vão desde questões de segurança até preocupações regulatórias, mas os alertas sobre um produto que pode causar a extinção da humanidade refletem uma preocupação crescente com uma tecnologia de tamanha importância. A admissão relatada surge na sequência de um aumento no debate sobre a questão do risco existencial, desencadeado este mês pela demissão de Jacob Coxon, pesquisador da área de Antropologia, que alertou que as pessoas que desenvolvem IA 'acreditam sinceramente que ela poderá nos matar a todos até o final da década'. Um pesquisador sênior de segurança da Anthropic publicou então sua concordância sobre o modelo X, alegando que havia mais de 10% de chance de ele 'matar todos os humanos' na próxima década. Donald Trump, presidente dos Estados Unidos Divulgação/Casa Branca Dias depois, o diretor executivo da Anthropic, Dario Amodei, afirmou que a indústria 'deve diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA'. Em meio a isso, a OpenAI anunciou na segunda-feira (28) o cancelamento do lançamento de seu modelo mais recente devido a preocupações com a segurança. Segundo a empresa, o modelo GPT-6.1 Astra apresentou níveis mais altos de engano e um desempenho ruim em testes de alinhamento, termo que se refere à garantia de que um modelo esteja de acordo com os valores e objetivos humanos. De acordo com a Reuters, aproximadamente 80 das 261 páginas do corpo principal do prospecto da Anthropic foram dedicadas à descrição dos fatores de risco, em comparação com 48 páginas para descrever seus negócios. Segundo informações, a Anthropologie busca uma avaliação de mais de US$ 2 trilhões, em comparação com os US$ 1,8 trilhão alcançados pela SpaceX de Elon Musk. Chat GPT é um serviço da OpenIA Canva Images