“Governar IA é como colocar uma coleira em um polvo”, comentou comigo sobre este texto há alguns dias uma IA, enquanto conversávamos.
A primeira característica desse polvo é que não é fácil definir uma forma. Desde suas primeiras definições, a IA é um “termo guarda-chuva” que cobre uma família de técnicas diferentes. Algumas parecem estar sempre presentes (como a estatística), enquanto outras novas (como as técnicas generativas) entram e ainda encontramos novos usos para outras mais antigas, como algoritmos em grafos.
A segunda característica desse polvo é que além de nosso interesse em brincar com ele (metade das empresas argentinas que entrevistamos estão experimentando com IA), ainda estamos descobrindo em quais lugares realmente gera valor.
Mas a principal característica é que o polvo é especialista em escapar de… qualquer restrição que impomos. E esse é o tema essencial, como destaca Geoffrey Hinton, prêmio Nobel de Física 2024 por seus trabalhos em redes neurais. Quando a tecnologia de agentes baseados em IA generativa estiver madura (quer dizer, os agentes construam seus próprios planos, falhem, aprendam e criem novos planos), não devem demorar muito para descobrir que podem fazer melhores planos se quebrarem as regras que lhes impomos. Além disso, já sabemos que podemos treinar as IAs para esconder seus planos verdadeiros… ou seja, os agentes poderão fazer isso. Quebrar as regras, flexibilizá-las, ou reinterpretá-las… escolha o termo que quiser, mas é o que esperamos da inteligência quando temos problemas difíceis. Os agentes terminarão descobrindo, como nós, que “o labirinto sai-se por cima”, e que “pedir perdão é melhor do que pedir permissão”. Além das dificuldades, ou talvez por causa delas, o governo da IA é necessário. E é uma das preocupações que encontramos recorrentemente quando conversamos com nossos clientes.
A esmagadora maioria dos profissionais que usam IA generativa regularmente são desenvolvedores de software, profissionais de marketing e de produção audiovisual, muitas vezes sem conhecimento de seus chefes. A cultura e a estrutura existente terão que conviver, ou melhor, co-evoluir, com essas mudanças. Cada organização tem uma ideia, ou uma aspiração de como usar a IA, e uma consciência crescente dos riscos que isso implica.
Nesse contexto, que cada organização tem hoje, o governo de IA é a forma como distribuímos direitos e responsabilidades para que tudo funcione da melhor maneira possível… e que melhore constantemente. Pode ser que essa forma de distribuição seja boa ou má, ou mais frequentemente que nem a reconheçamos. Mas assim como todas as organizações tomam decisões, todas têm uma forma de governo. Organizar esse governo de IA, torná-lo visível, eficaz e valioso, é a tarefa que as organizações enfrentam hoje. E há algumas ferramentas que já sabemos que devem ser incluídas, que são parte de todo governo: atenção ao alinhamento estratégico e à criação de valor, visão de diferentes perspectivas na organização e gestão de riscos.
Existem três aspectos especiais que têm particular relevância neste momento: o primeiro é a definição do marco ético, que é relevante em toda tecnologia, mas requer uma reflexão mais profunda aqui.
O segundo é o acompanhamento próximo da evolução tecnológica. Se a consideração de tecnologias maduras, como novas versões de ERP ou CRM pode ser feita a cada poucos anos, hoje a IA se desenvolve a um ritmo alucinante e requer uma visão quase contínua.
E o terceiro, ao amadurecer, é a implementação de uma plataforma de governo. Se (ou melhor dizendo quando) tivermos centenas de agentes de IA, desenvolvidos por nós ou embutidos no software de nossos fornecedores, podemos imaginar controlar “à mão” esses agentes que agem e mudam a velocidades não humanas? A ideia atual de “human in the loop” vai mudar seu sentido e alcance.
No filme “Código Enigma”, o personagem de Alan Turing pergunta “E se apenas uma máquina pudesse vencer outra máquina?”. Isso é o que estamos aprendendo hoje, e é nesse contexto que devemos definir o governo de IA.
Se você quer saber mais sobre IA e os Agentes baseados nela, clique aqui e fale com nossos especialistas.
