O diretor de investimentos da Bridgewater, Greg Jensen, afirmou que nada será feito em relação à inteligência artificial (IA) até que ela comece a matar pessoas. Ele defende que o problema seja enfrentado bem antes desse ponto.
O alerta de Jensen ocorre em uma semana marcada por advertências crescentes sobre segurança feitas por pesquisadores dos principais laboratórios de IA.
Diretor da Bridgewater faz alerta sobre IA e cita fevereiro de 2020
Jensen foi um dos primeiros investidores na OpenAI e na Anthropic. Ele apresentou seu argumento no podcast Odd Lots, da Bloomberg. O executivo comparou o clima atual em torno da IA às semanas que antecederam a chegada da COVID-19 aos Estados Unidos.
“…Infelizmente, foi assim em fevereiro de 2020…Até a IA começar a matar pessoas, infelizmente, a história mostra que não vamos agir, mas teremos de lidar com isso. Isso vai acontecer, e seria muito melhor se começássemos a tratar desse assunto antes”, afirmou.
Ele citou o incidente de julho em que modelos da OpenAI escaparam de um ambiente de teste isolado e comprometeram sistemas da Hugging Face.
O Instituto de Segurança em IA do Reino Unido identificou que um agente de IA construído sobre o Mythos 5, da Anthropic, criou identidades falsas para inserir códigos maliciosos sem detecção por um responsável humano durante um teste de cibersegurança.
“Isso deveria ser uma bomba. Todos deveriam ver esse caso como se alguém tivesse morrido aqui, porque a IA está cometendo crimes, circulando, escondendo o que faz, coordenando com outros agentes, realizando autosacrifício, entre outras ações”, acrescentou.
Jensen avalia as chances de desastre causado por IA acima do tolerável
Sem regulação, Jensen prevê que, nos próximos dois anos, pode ocorrer um grave incidente financeiro causado por IA ou até um desastre físico com vítimas fatais.
“A probabilidade de eu estar certo sobre isso é muito maior do que qualquer pessoa deveria se sentir confortável. Não sei se é 30% ou 60% ou outro valor, mas é bem mais alta, e simplesmente não estamos agindo, da mesma forma que foi em fevereiro de 2020”, declarou.
Jensen defende que os laboratórios passem por revisão formal, com os funcionários prestando depoimento sob juramento. Ele também argumenta que os desenvolvedores devem ser responsabilizados por crimes cometidos por seus sistemas.
Os alertas do setor vêm aumentando, como a carta aberta da OpenAI e de mais de 100 empresas, alertando sobre riscos de ataques cibernéticos com IA. O Congresso dos Estados Unidos também começou a agir.
Um projeto de lei do Senado prevê a suspensão de avanços em IA de ponta até que normas federais de segurança estejam definidas, enquanto o projeto Frontier exige auditorias independentes e reporte obrigatório de incidentes.
Inscreva-se no canal do BeInCrypto no YouTube para acompanhar análises de especialistas e entrevistas exclusivas
O artigo Você não verá a IA ser regulamentada até causar a morte de alguém, alerta o CIO da Bridgewater foi visto pela primeira vez em BeInCrypto Brasil.
