Segundo a empresa, essa tend\u00eancia aponta para um cen\u00e1rio em que sistemas de IA poderiam, no futuro, projetar e desenvolver seus pr\u00f3prios sucessores de forma aut\u00f4noma. O conceito \u00e9 chamado de melhoria recursiva. A Anthropic afirma que esse est\u00e1gio ainda n\u00e3o foi alcan\u00e7ado e n\u00e3o \u00e9 inevit\u00e1vel, mas alerta que ele pode chegar antes que institui\u00e7\u00f5es estejam preparadas.<\/p>\n
Para a companhia, uma IA capaz de construir a si mesma representaria um marco na hist\u00f3ria da tecnologia, com potenciais ganhos em \u00e1reas como ci\u00eancia, sa\u00fade e produtividade. Ao mesmo tempo, a empresa avalia que a melhoria recursiva poderia ampliar os riscos de perda de controle humano sobre sistemas avan\u00e7ados.<\/p>\n
\u201cUma IA capaz de construir a si mesma seria um grande desenvolvimento na hist\u00f3ria da tecnologia\u201d, diz a Anthropic. A empresa acrescenta que, nesse cen\u00e1rio, os mecanismos usados para proteger, monitorar e orientar o comportamento desses sistemas se tornariam ainda mais importantes.<\/p>\n
Em abril, Anthropic e Amazon oficializaram uma parceria envolvendo\u00a0aporte de US$ 5 bilh\u00f5es por parte da gigante do e-commerce.<\/p>\n
Riscos e governan\u00e7a<\/p>\n
A Anthropic argumenta que o avan\u00e7o da IA tende a reduzir o papel humano em etapas operacionais do desenvolvimento tecnol\u00f3gico. A fun\u00e7\u00e3o das pessoas, segundo a companhia, passa a se concentrar cada vez mais na defini\u00e7\u00e3o de objetivos, na escolha de problemas relevantes e na avalia\u00e7\u00e3o dos resultados produzidos por sistemas automatizados.<\/p>\n
Esse ponto \u00e9 central para a discuss\u00e3o sobre melhoria recursiva. Mesmo que os sistemas atuais ainda dependam de humanos para definir prioridades, a empresa afirma que j\u00e1 h\u00e1 sinais de acelera\u00e7\u00e3o composta no desenvolvimento de IA. Na pr\u00e1tica, humanos passariam a coordenar mais trabalho, enquanto\u00a0agentes automatizados\u00a0executariam uma parcela crescente das tarefas.<\/p>\n
A companhia apresenta\u00a0tr\u00eas cen\u00e1rios poss\u00edveis:<\/p>\n
No primeiro, a tend\u00eancia de avan\u00e7o desacelera, mas as capacidades atuais se espalham pela economia e provocam mudan\u00e7as relevantes mesmo sem novos saltos t\u00e9cnicos;
\nNo segundo, laborat\u00f3rios de IA continuam obtendo ganhos compostos de efici\u00eancia, mas humanos seguem respons\u00e1veis por definir dire\u00e7\u00f5es e julgar resultados;
\nNo terceiro, sistemas de IA se tornam capazes de melhoria recursiva plena e passam a construir seus pr\u00f3prios sucessores.<\/p>\n
Para a Anthropic, o segundo cen\u00e1rio \u00e9 o mais prov\u00e1vel de acontecer, no qual o desenvolvimento de IA se torna substancialmente automatizado, mas ainda depende de decis\u00f5es humanas estrat\u00e9gicas. Nesse contexto,\u00a0empresas menores\u00a0poderiam operar com capacidade equivalente \u00e0 de organiza\u00e7\u00f5es muito maiores, j\u00e1 que cada funcion\u00e1rio passaria a coordenar uma estrutura de agentes automatizados.<\/p>\n
Ao mesmo tempo, a empresa alerta que acelerar uma parte do processo apenas desloca gargalos. Se sistemas automatizados passam a gerar mais c\u00f3digo, experimentos, ferramentas e ideias do que humanos conseguem revisar ou priorizar, a supervis\u00e3o e a valida\u00e7\u00e3o passam a ser pontos cr\u00edticos.<\/p>\n
A hip\u00f3tese mais sens\u00edvel \u00e9 a de sistemas capazes de conduzir pesquisa e desenvolvimento de IA de forma aut\u00f4noma. Nesse cen\u00e1rio, segundo a Anthropic, o ritmo de avan\u00e7o poderia passar a ser determinado principalmente pela disponibilidade computacional e por ganhos de efici\u00eancia em treinamento e infer\u00eancia. Humanos assumiriam papel mais restrito, concentrado em supervis\u00e3o, valida\u00e7\u00e3o e verifica\u00e7\u00e3o de um \u201claborat\u00f3rio virtual\u201d operado por IA.<\/p>\n
A empresa afirma n\u00e3o ter boas previs\u00f5es sobre como seria uma economia em que o trabalho humano deixasse de ser competitivo em determinadas \u00e1reas. Tamb\u00e9m destaca que a melhoria recursiva n\u00e3o significaria, necessariamente, mudan\u00e7a imediata em todos os aspectos da vida cotidiana, j\u00e1 que setores f\u00edsicos, institui\u00e7\u00f5es, mercados e rela\u00e7\u00f5es sociais continuariam sujeitos a outros tipos de limita\u00e7\u00e3o.<\/p>\n
Coordena\u00e7\u00e3o global<\/p>\n
No encerramento da nota, a Anthropic defende que o setor deveria ter mecanismos para\u00a0desacelerar ou pausar temporariamente o desenvolvimento de modelos de IA de fronteira,\u00a0ou seja, sistemas mais avan\u00e7ados, caso governan\u00e7a e pesquisas de alinhamento n\u00e3o evoluam na mesma celeridade da tecnologia.<\/p>\n
A empresa pondera, por\u00e9m, que uma pausa unilateral teria efeito limitado. Segundo a Anthropic, se apenas um laborat\u00f3rio reduzisse o ritmo, a medida poderia apenas permitir que atores menos cautelosos assumissem a lideran\u00e7a no desenvolvimento da tecnologia.<\/p>\n
Para a companhia, uma desacelera\u00e7\u00e3o relevante exigiria a ades\u00e3o de m\u00faltiplos laborat\u00f3rios bem financiados, em diferentes pa\u00edses, al\u00e9m de mecanismos verific\u00e1veis para garantir que todos tenham, de fato, interrompido ou reduzido o avan\u00e7o. A Anthropic afirma que pretende organizar conversas nos pr\u00f3ximos meses com formuladores de pol\u00edticas p\u00fablicas, pesquisadores, sociedade civil e outras empresas de IA para discutir melhoria recursiva, coordena\u00e7\u00e3o e delibera\u00e7\u00e3o p\u00fablica sobre o tema.<\/p>\n
Segundo a empresa, o desafio \u00e9 criar condi\u00e7\u00f5es para que uma eventual pausa n\u00e3o seja usada por atores menos transparentes como oportunidade para avan\u00e7ar em segredo. A Anthropic compara a dificuldade a regimes internacionais de verifica\u00e7\u00e3o em tecnologias sens\u00edveis, mas ressalta que, no caso da IA, a fiscaliza\u00e7\u00e3o \u00e9 mais complexa, j\u00e1 que treinamentos de modelos podem ser mais f\u00e1ceis de ocultar do que infraestruturas f\u00edsicas.<\/p>\n
A companhia afirma que o debate precisa envolver pessoas de fora das empresas de IA, incluindo governos, pesquisadores e sociedade civil. Para a Anthropic, a janela para discutir melhoria recursiva, seguran\u00e7a e coordena\u00e7\u00e3o internacional j\u00e1 est\u00e1 aberta.<\/p>\n","protected":false},"excerpt":{"rendered":"
Segundo a empresa, essa tend\u00eancia aponta para um cen\u00e1rio em que sistemas de IA poderiam, no futuro, projetar e desenvolver seus pr\u00f3prios sucessores de forma aut\u00f4noma. O conceito \u00e9 chamado … Continuar lendo Varejistas dos EUA aceleram uso de intelig\u00eancia artificial para personalizar vendas<\/span><\/a><\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[44],"tags":[],"class_list":["post-129496","post","type-post","status-publish","format-standard","hentry","category-shopping-patio-higienopolis"],"acf":[],"_links":{"self":[{"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/posts\/129496","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/comments?post=129496"}],"version-history":[{"count":1,"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/posts\/129496\/revisions"}],"predecessor-version":[{"id":129497,"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/posts\/129496\/revisions\/129497"}],"wp:attachment":[{"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/media?parent=129496"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/categories?post=129496"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/monitoramento.spmj.com.br\/noticias\/wp-json\/wp\/v2\/tags?post=129496"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}