Durante algum tempo, a pergunta sobre Inteligência Artificial foi relativamente simples: "O que podemos fazer com ela?". Depois passou a ser: "Como podemos integrá-la?". Agora começa a surgir uma pergunta muito mais difícil: "Como vamos organizar as nossas organizações, a nossa segurança e a nossa sociedade quando a IA deixar de ser apenas uma ferramenta e passar a fazer parte do próprio sistema?". É uma mudança de escala. E talvez seja uma das mudanças mais importantes deste momento tecnológico.
Uma reflexão publicada pela Inc. sobre a diferença entre tratar a IA como ferramenta ou como sistema toca precisamente neste ponto. Uma ferramenta é algo que utilizamos. Um sistema é algo que reconfigura a forma como trabalhamos. Esta diferença parece semântica, mas não é. Se a IA for apenas mais uma ferramenta, podemos acrescentá-la aos processos existentes. Se for um sistema, teremos de repensar processos, competências, estruturas, decisões, responsabilidades e métricas. É provavelmente por isso que o conteúdo da McKinsey sobre a transformação agentic e a nova economia da mudança é particularmente relevante.
Quando os agentes de IA começam a executar tarefas, coordenar atividades e participar em fluxos de trabalho, a transformação deixa de ser apenas uma questão de implementar tecnologia. Passa a ser uma questão de redesenhar o sistema operativo da organização. E isso muda também o papel da liderança.
O conceito de frontier firm, explorado no relatório Becoming a Frontier Firm, aponta para organizações onde humanos e agentes de IA trabalham de formas cada vez mais integradas. Não significa necessariamente substituir pessoas. Significa alterar aquilo que entendemos por trabalho. Uma equipa pode passar a incluir pessoas, agentes digitais, sistemas autónomos e ferramentas especializadas. E, nesse contexto, a liderança terá de responder a perguntas novas: Quem decide? Quem supervisiona? Quem valida? Quem assume responsabilidade? Quem intervém quando o sistema erra? E, talvez a mais importante: quem define os limites da autonomia?
A resposta torna-se especialmente urgente quando olhamos para a cibersegurança. A publicação da Wired sobre um sistema de comando autónomo associado a malware integrado com IA mostra uma das faces mais preocupantes desta transformação: a mesma capacidade de autonomia que pode aumentar produtividade e eficiência também pode ser utilizada para aumentar a velocidade, escala e sofisticação de ataques. O National Cyber Security Centre neerlandês, ao alertar que a IA está a acelerar a ameaça e que é necessária ação imediata, coloca o problema numa perspetiva ainda mais ampla. E o debate deixa de ser: “A IA é segura?”. O debate passa a ser: "Que mecanismos precisamos para garantir que sistemas cada vez mais autónomos permanecem dentro de limites que conseguimos compreender e controlar?". É uma pergunta de engenharia. Mas é também uma pergunta de governação.
Há ainda outra dimensão menos confortável. O CISO's Guide to Rethinking Insider Risk lembra-nos que o risco não vem necessariamente de um atacante externo. Pode estar dentro da organização. Uma pessoa. Uma credencial comprometida. Um comportamento negligente. Um processo mal desenhado. Ou agora, também, um sistema autorizado a fazer demasiado.
Quando damos autonomia a agentes de IA, a fronteira entre insider risk, erro de configuração, comportamento inesperado e ação maliciosa torna-se potencialmente mais complexa. Por isso, a segurança do futuro terá de considerar não apenas quem tem acesso, mas também o que pode fazer, durante quanto tempo, com que autonomia e sob que supervisão.
Há uma ligação interessante entre este problema e o trabalho do CVE Program sobre uma nova era de qualidade. À medida que dependemos mais de software e de sistemas interligados, a qualidade deixa de ser uma questão meramente operacional. É uma questão de resiliência. Uma vulnerabilidade num componente aparentemente secundário pode ter consequências muito mais amplas quando esse componente está integrado num ecossistema crítico. O mesmo princípio aplica-se à IA. Um pequeno erro de modelo, uma má regra, uma fonte de dados inadequada ou uma decisão automatizada mal desenhada pode propagar-se rapidamente através de uma organização. Quanto maior a autonomia, maior tem de ser a qualidade daquilo que sustenta essa autonomia.
Mas a tecnologia não governa culturas. É aqui que a reflexão da IT Insight sobre cultura e governação da IA ganha particular importância. Podemos criar políticas. Podemos comprar ferramentas. Podemos definir modelos de governação. Podemos criar comités. Mas se a cultura organizacional não acompanhar, a governação pode tornar-se apenas documentação. Porque a cultura manifesta-se precisamente quando ninguém está a olhar. Na decisão que alguém toma sem pedir autorização. Na informação que alguém introduz num sistema. Na exceção que alguém aceita. Na vulnerabilidade que alguém decide não reportar. Na utilização de IA que ninguém declarou.
Governar IA é, por isso, também governar comportamentos. E governar comportamentos exige liderança. A liderança precisa de mudar outra vez. É interessante cruzar esta questão com os dados da Gallup sobre confiança nas Nações Unidas e perceções globais. Instituições, organizações e líderes vivem todos do mesmo ativo invisível: confiança.
A tecnologia pode aumentar capacidade. Mas não fabrica confiança. E talvez esta seja uma das grandes contradições da era da IA. Quanto mais automatizamos, mais precisamos de confiança. Quanto mais delegamos, mais precisamos de responsabilidade. Quanto mais sistemas decidem, mais precisamos de legitimidade. Quanto mais informação temos, mais precisamos de discernimento.
O Positive Peace Report 2026 acrescenta outra dimensão que considero particularmente interessante. Portugal surge em 18.º lugar no índice apresentado no relatório. Mas, mais do que a posição em si, interessa-me o conceito de Positive Peace: não apenas ausência de conflito, mas presença das condições que permitem às sociedades funcionar, cooperar e prosperar. É uma ideia que podemos transportar para as organizações. Também existe uma espécie de “paz organizacional”. Confiança. Instituições que funcionam. Boa governação. Cooperação. Respeito. Capacidade de resolver conflitos. Previsibilidade suficiente para permitir inovação.
Talvez uma organização preparada para a IA não seja simplesmente aquela que tem melhores modelos. Talvez seja aquela que possui as condições humanas e institucionais para utilizar esses modelos de forma responsável.
Pergunta final: quem controla a IA?
O documento do Governo português sobre controlo dos modelos de IA de fronteira coloca esta discussão num plano político e internacional. E as reflexões sobre a possibilidade de um AI kill switch e sobre a necessidade de maior prudência por parte dos líderes empresariais — AI kill switch e medidas de segurança e desaceleração — mostram como o debate já ultrapassou largamente a questão técnica. Estamos a discutir poder. Autonomia. Controlo. Responsabilidade. E limites.
Não existe provavelmente uma resposta simples. Talvez a questão não seja acelerar ou travar. É tentador dividir o debate em dois campos: os que querem acelerar e os que querem travar. Mas talvez essa seja uma falsa dicotomia. Precisamos de acelerar a inovação onde o risco é compreendido e gerido. Precisamos de experimentar. Precisamos de aprender. Precisamos de criar. Mas também precisamos de estabelecer limites quando a autonomia ultrapassa a nossa capacidade de supervisão. A maturidade tecnológica talvez esteja precisamente aqui: não em fazer tudo o que podemos fazer, mas em saber aquilo que devemos fazer — e aquilo que ainda não estamos preparados para fazer.
A próxima geração de líderes não precisará apenas de compreender IA. Precisará de compreender sistemas. Precisará de perceber tecnologia, pessoas, risco, cultura, processos e contexto. Precisará de saber quando delegar. Quando supervisionar. Quando confiar. Quando questionar. E quando parar.
Talvez o verdadeiro salto não seja passar de organizações analógicas para organizações digitais. Talvez seja passar de organizações que usam tecnologia para organizações que sabem governar sistemas inteligentes. E isso é muito mais do que transformação digital. É transformação de liderança.
Para Ler e Reverberar
#LeiturasEReverberaturas #InteligenciaArtificial #Liderança #Governança #Cibersegurança #TransformaçãoDigital #Confiança #Estratégia #CulturaOrganizacional #FuturoDoTrabalho #Resiliência #Tecnologia
(Powered with AI)
Mensagens
