O medo também faz parte do produto
Eu também vi a saga Terminator. Vi a Skynet adquirir consciência, tomar conta dos sistemas militares e concluir que a espécie humana era um obstáculo a eliminar. Durante muitos anos, aquela possibilidade pertenceu ao cinema, acompanhada por máquinas de olhos vermelhos, cidades destruídas e um Arnold Schwarzenegger pouco dado a grandes conversas.
Hoje, a máquina entra em casa através do computador e do telemóvel. Escreve, desenha, programa, ajuda a diagnosticar, aconselha, vigia e aprende. Tal como muitas pessoas, receio o poder da inteligência artificial. Entregue a quem pretenda causar danos, poderá ampliar a fraude, a manipulação, os ataques informáticos, a conceção de armas e inúmeras formas de violência.
Os danos também podem nascer sem intenção maligna. Um erro, um preconceito herdado dos dados ou um objetivo mal definido pode condicionar milhões de decisões. Num cenário extremo, a inteligência artificial poderá ameaçar a própria sobrevivência da nossa espécie.
O que mais me impressiona são os avisos lançados pelos homens que a criam, dirigem e financiam. Nos últimos meses, alguns dos nomes mais sonantes da tecnologia têm-se sucedido em entrevistas nos principais órgãos de comunicação social internacionais. Em conversas por vezes demoradas, exprimem sem rodeios os seus maiores receios.
Dizem-nos que a inteligência artificial poderá fazer desaparecer muitos empregos, facilitar o bioterrorismo, escapar ao controlo humano e tornar-se a ferramenta mais perigosa alguma vez inventada. Terminadas as entrevistas, as empresas que muitos destes homens dirigem ou financiam continuam a desenvolvê-la, promovê-la e vendê-la a um ritmo nunca visto. É estranho.
Se um fabricante acreditasse que o seu novo eletrodoméstico poderia exterminar a humanidade, esperaríamos que suspendesse a produção. No mundo da inteligência artificial, o anúncio do perigo parece acompanhar o lançamento da versão seguinte.
É possível que alguns destes receios sejam sinceros. A corrida tecnológica ajuda a compreender a aceleração. Cada empresa teme que abrandar entregue a vantagem a um concorrente menos prudente. Dizem recear o que os espera na meta e mantêm o pé no acelerador.
Talvez o medo também faça parte do produto. Uma tecnologia capaz de nos assustar parece imediatamente mais poderosa. Quem anuncia o perigo apresenta-se como uma das poucas pessoas capazes de o compreender e conter. O criador transforma-se em guardião e pede-nos confiança para continuar a construir aquilo de que acaba de nos ensinar a ter medo.
Sou agrónomo e aprendi que a desconfiança perante a novidade tem uma longa história botânica. Algumas plantas que hoje entram diariamente nas nossas cozinhas passaram décadas ou séculos à espera que aprendêssemos a conhecê-las.
Quando a batateira (Solanum tuberosum) chegou dos Andes à Europa, no século XVI, os tubérculos que escondia debaixo da terra estavam longe de ser reconhecidos como alimento. A planta pertence à mesma família botânica que a beladona e outras espécies tóxicas, e o consumo da batata chegou a ser associado à lepra em algumas regiões europeias.
A aceitação foi desigual. A Irlanda acolheu-a cedo. Desde os primeiros indícios do seu cultivo nas Canárias, em meados da década de 1560, até à sua consolidação como alimento básico no norte da Europa, por volta de 1815, decorreram cerca de dois séculos e meio.
Durante esse longo percurso, foi mantida em jardins botânicos, admirada como curiosidade ornamental ou destinada à alimentação animal e demorou a integrar os hábitos alimentares.
A desconfiança encontrava alguns fragmentos de realidade. As folhas, os rebentos e os tubérculos esverdeados ou grelados podem acumular concentrações elevadas de glicoalcaloides, capazes de provocar náuseas, vómitos, diarreia e, nos casos mais graves, perturbações neurológicas e cardíacas.
Foi necessário aprender que partes consumir, como cultivar, quando colher e em que condições conservar os tubérculos. O conhecimento converteu um medo difuso em regras concretas de cultivo, conservação e consumo.
No século XVIII, Antoine-Augustin Parmentier, farmacêutico militar, agrónomo e higienista francês, foi feito prisioneiro na Prússia durante a Guerra dos Sete Anos. No cativeiro, a batata tornou-se presença regular na sua alimentação. Regressou a França convencido do seu valor nutritivo e tornou-se um dos mais persistentes investigadores e divulgadores da planta. Publicou estudos, promoveu experiências de cultivo, organizou refeições e apresentou-a à corte de Luís XVI.
Conta a lenda que Parmentier terá mandado soldados guardar um campo de batatas durante o dia. Acreditava que uma cultura tão protegida despertaria a curiosidade e que o desejo de possuir aquilo que parecia raro faria o resto. Quando se aproximou o momento da colheita, mandou retirar os soldados ao cair da noite.
A ausência da guarda completava o plano. A população terá então entrado no campo, levado os tubérculos e começado a plantá-los. A curiosidade e a cobiça venceram a resistência que os argumentos de Parmentier não tinham conseguido quebrar. Passando de mão em mão, a batata começou a perder a reputação que a mantivera afastada das cozinhas. A sua longa viagem ganhou novo impulso e acabaria por levá-la a quase todo o mundo.
Imaginemos agora uma pequena alteração à lenda. Antes de mandar retirar os soldados, Parmentier anunciava publicamente que a batata poderia acabar com a humanidade. Depois, deixava o campo sem guarda e confiava na curiosidade dos habitantes das redondezas para levar os tubérculos além dos seus limites. O homem que anunciava o perigo criava as condições necessárias para a batata se espalhar.
Na lenda, a retirada dos soldados permitia que a batata atravessasse a cerca e se multiplicasse noutras terras. Hoje, o campo abre-se sempre que uma nova versão da inteligência artificial é colocada ao alcance de milhões de pessoas depois de os seus criadores terem descrito os perigos que encerra. Parmentier queria tornar comum um alimento que considerava seguro. Os atuais promotores alargam o acesso a uma tecnologia cujos riscos apresentam como reais.
A própria família botânica da batateira, a das solanáceas, permite levar o paralelo mais longe. Algumas das suas primas parecem ter dedicado a sua existência a servir a humanidade. O tomate, a beringela, o pimento e as malaguetas fazem parte da alimentação diária de milhões de pessoas.
Outras, como o tabaco, a beladona, o estramónio e as anáguas-de-vénus, entraram na história humana ligadas à dependência, ao delírio, à doença e à morte. A beladona basta para mostrar como esta divisão é incompleta. Os seus frutos podem matar. Foi a partir da mesma planta que se isolou a atropina, um medicamento capaz de salvar vidas.
Uma planta desconhece o bem e o mal. Produz substâncias que lhe permitem viver, competir e defender-se. O ser humano decide se as transforma em alimento, medicamento, ritual, veneno, dependência ou negócio. O tabaco nunca decidiu adoecer ninguém. A beladona jamais planeou um envenenamento. Todas estas plantas pertencem à Criação e continuam a ser maravilhas que nos antecedem e ultrapassam.
É aqui que o paralelo com a inteligência artificial se torna mais profundo. Em boas mãos, poderá tornar-se uma das ferramentas mais extraordinárias que já colocámos ao serviço da vida. Pode ajudar-nos a interpretar sistemas ecológicos de uma complexidade imensa, prever secas e o risco de incêndio, reduzir desperdícios, gerir melhor a água e a energia, recuperar solos, proteger a biodiversidade e encontrar caminhos para reparar parte dos danos que causámos ao planeta ao longo dos últimos séculos.
Entregue a outros propósitos, poderá ampliar a vigilância, a fraude, a dominação e a morte. Por enquanto, tanto quanto nos é dado a saber, a direção depende das escolhas humanas.
A hipótese de uma inteligência artificial consciente deixou de pertencer exclusivamente à ficção científica. Alguns investigadores consideram possível que sistemas futuros venham a desenvolver alguma forma de consciência. Uma máquina já pode causar danos sem possuir consciência. A mudança mais profunda ocorreria se adquirisse autonomia suficiente para formular e perseguir objetivos próprios.
Com a inteligência artificial, a responsabilidade começa antes da primeira utilização. As plantas chegaram até nós como parte da Criação. A inteligência artificial saiu das nossas mãos, construída com o código que escrevemos, os dados que escolhemos e o dinheiro que decidimos investir. Os seres humanos não são Deus.
A história da batata ensina-nos que o medo pode atrasar a adoção de um alimento valioso. Mostra igualmente que nenhuma novidade se torna segura através do entusiasmo de quem a promove. Foram necessários conhecimento botânico, experiência agronómica, aprendizagem culinária e práticas partilhadas para que aquele tubérculo suspeito se tornasse um dos grandes alimentos da humanidade.
A inteligência artificial exige uma prudência ainda maior. Precisamos de investigação independente, regulação democrática, limites claros e responsabilidade pelos danos. Cabe à sociedade determinar quanto risco está disposta a aceitar. A capacidade de construir uma tecnologia não concede aos seus criadores o direito de decidir por todos nós.
Continuo a recear o que uma inteligência artificial mal utilizada poderá fazer. A saga Terminator forneceu imagens suficientes para várias vidas. Hoje, os avisos mais inquietantes chegam pela voz de quem cultiva o campo, escolhe os guardas e decide quando devem afastar-se.
Vivemos num tempo em que os guardas anunciam o perigo, abrem o campo e nos pedem confiança para continuarem a cultivá-lo. Desta vez, quando os soldados se retirarem ao cair da noite, ninguém poderá dizer que ignorava o que estava a deixar espalhar-se pelo mundo.
Hoje, a máquina entra em casa através do computador e do telemóvel. Escreve, desenha, programa, ajuda a diagnosticar, aconselha, vigia e aprende. Tal como muitas pessoas, receio o poder da inteligência artificial. Entregue a quem pretenda causar danos, poderá ampliar a fraude, a manipulação, os ataques informáticos, a conceção de armas e inúmeras formas de violência.
Os danos também podem nascer sem intenção maligna. Um erro, um preconceito herdado dos dados ou um objetivo mal definido pode condicionar milhões de decisões. Num cenário extremo, a inteligência artificial poderá ameaçar a própria sobrevivência da nossa espécie.
O que mais me impressiona são os avisos lançados pelos homens que a criam, dirigem e financiam. Nos últimos meses, alguns dos nomes mais sonantes da tecnologia têm-se sucedido em entrevistas nos principais órgãos de comunicação social internacionais. Em conversas por vezes demoradas, exprimem sem rodeios os seus maiores receios.
Dizem-nos que a inteligência artificial poderá fazer desaparecer muitos empregos, facilitar o bioterrorismo, escapar ao controlo humano e tornar-se a ferramenta mais perigosa alguma vez inventada. Terminadas as entrevistas, as empresas que muitos destes homens dirigem ou financiam continuam a desenvolvê-la, promovê-la e vendê-la a um ritmo nunca visto. É estranho.
Se um fabricante acreditasse que o seu novo eletrodoméstico poderia exterminar a humanidade, esperaríamos que suspendesse a produção. No mundo da inteligência artificial, o anúncio do perigo parece acompanhar o lançamento da versão seguinte.
É possível que alguns destes receios sejam sinceros. A corrida tecnológica ajuda a compreender a aceleração. Cada empresa teme que abrandar entregue a vantagem a um concorrente menos prudente. Dizem recear o que os espera na meta e mantêm o pé no acelerador.
Talvez o medo também faça parte do produto. Uma tecnologia capaz de nos assustar parece imediatamente mais poderosa. Quem anuncia o perigo apresenta-se como uma das poucas pessoas capazes de o compreender e conter. O criador transforma-se em guardião e pede-nos confiança para continuar a construir aquilo de que acaba de nos ensinar a ter medo.
Sou agrónomo e aprendi que a desconfiança perante a novidade tem uma longa história botânica. Algumas plantas que hoje entram diariamente nas nossas cozinhas passaram décadas ou séculos à espera que aprendêssemos a conhecê-las.
Quando a batateira (Solanum tuberosum) chegou dos Andes à Europa, no século XVI, os tubérculos que escondia debaixo da terra estavam longe de ser reconhecidos como alimento. A planta pertence à mesma família botânica que a beladona e outras espécies tóxicas, e o consumo da batata chegou a ser associado à lepra em algumas regiões europeias.
A aceitação foi desigual. A Irlanda acolheu-a cedo. Desde os primeiros indícios do seu cultivo nas Canárias, em meados da década de 1560, até à sua consolidação como alimento básico no norte da Europa, por volta de 1815, decorreram cerca de dois séculos e meio.
Durante esse longo percurso, foi mantida em jardins botânicos, admirada como curiosidade ornamental ou destinada à alimentação animal e demorou a integrar os hábitos alimentares.
A desconfiança encontrava alguns fragmentos de realidade. As folhas, os rebentos e os tubérculos esverdeados ou grelados podem acumular concentrações elevadas de glicoalcaloides, capazes de provocar náuseas, vómitos, diarreia e, nos casos mais graves, perturbações neurológicas e cardíacas.
Foi necessário aprender que partes consumir, como cultivar, quando colher e em que condições conservar os tubérculos. O conhecimento converteu um medo difuso em regras concretas de cultivo, conservação e consumo.
No século XVIII, Antoine-Augustin Parmentier, farmacêutico militar, agrónomo e higienista francês, foi feito prisioneiro na Prússia durante a Guerra dos Sete Anos. No cativeiro, a batata tornou-se presença regular na sua alimentação. Regressou a França convencido do seu valor nutritivo e tornou-se um dos mais persistentes investigadores e divulgadores da planta. Publicou estudos, promoveu experiências de cultivo, organizou refeições e apresentou-a à corte de Luís XVI.
Conta a lenda que Parmentier terá mandado soldados guardar um campo de batatas durante o dia. Acreditava que uma cultura tão protegida despertaria a curiosidade e que o desejo de possuir aquilo que parecia raro faria o resto. Quando se aproximou o momento da colheita, mandou retirar os soldados ao cair da noite.
A ausência da guarda completava o plano. A população terá então entrado no campo, levado os tubérculos e começado a plantá-los. A curiosidade e a cobiça venceram a resistência que os argumentos de Parmentier não tinham conseguido quebrar. Passando de mão em mão, a batata começou a perder a reputação que a mantivera afastada das cozinhas. A sua longa viagem ganhou novo impulso e acabaria por levá-la a quase todo o mundo.
Imaginemos agora uma pequena alteração à lenda. Antes de mandar retirar os soldados, Parmentier anunciava publicamente que a batata poderia acabar com a humanidade. Depois, deixava o campo sem guarda e confiava na curiosidade dos habitantes das redondezas para levar os tubérculos além dos seus limites. O homem que anunciava o perigo criava as condições necessárias para a batata se espalhar.
Na lenda, a retirada dos soldados permitia que a batata atravessasse a cerca e se multiplicasse noutras terras. Hoje, o campo abre-se sempre que uma nova versão da inteligência artificial é colocada ao alcance de milhões de pessoas depois de os seus criadores terem descrito os perigos que encerra. Parmentier queria tornar comum um alimento que considerava seguro. Os atuais promotores alargam o acesso a uma tecnologia cujos riscos apresentam como reais.
A própria família botânica da batateira, a das solanáceas, permite levar o paralelo mais longe. Algumas das suas primas parecem ter dedicado a sua existência a servir a humanidade. O tomate, a beringela, o pimento e as malaguetas fazem parte da alimentação diária de milhões de pessoas.
Outras, como o tabaco, a beladona, o estramónio e as anáguas-de-vénus, entraram na história humana ligadas à dependência, ao delírio, à doença e à morte. A beladona basta para mostrar como esta divisão é incompleta. Os seus frutos podem matar. Foi a partir da mesma planta que se isolou a atropina, um medicamento capaz de salvar vidas.
Uma planta desconhece o bem e o mal. Produz substâncias que lhe permitem viver, competir e defender-se. O ser humano decide se as transforma em alimento, medicamento, ritual, veneno, dependência ou negócio. O tabaco nunca decidiu adoecer ninguém. A beladona jamais planeou um envenenamento. Todas estas plantas pertencem à Criação e continuam a ser maravilhas que nos antecedem e ultrapassam.
É aqui que o paralelo com a inteligência artificial se torna mais profundo. Em boas mãos, poderá tornar-se uma das ferramentas mais extraordinárias que já colocámos ao serviço da vida. Pode ajudar-nos a interpretar sistemas ecológicos de uma complexidade imensa, prever secas e o risco de incêndio, reduzir desperdícios, gerir melhor a água e a energia, recuperar solos, proteger a biodiversidade e encontrar caminhos para reparar parte dos danos que causámos ao planeta ao longo dos últimos séculos.
Entregue a outros propósitos, poderá ampliar a vigilância, a fraude, a dominação e a morte. Por enquanto, tanto quanto nos é dado a saber, a direção depende das escolhas humanas.
A hipótese de uma inteligência artificial consciente deixou de pertencer exclusivamente à ficção científica. Alguns investigadores consideram possível que sistemas futuros venham a desenvolver alguma forma de consciência. Uma máquina já pode causar danos sem possuir consciência. A mudança mais profunda ocorreria se adquirisse autonomia suficiente para formular e perseguir objetivos próprios.
Com a inteligência artificial, a responsabilidade começa antes da primeira utilização. As plantas chegaram até nós como parte da Criação. A inteligência artificial saiu das nossas mãos, construída com o código que escrevemos, os dados que escolhemos e o dinheiro que decidimos investir. Os seres humanos não são Deus.
A história da batata ensina-nos que o medo pode atrasar a adoção de um alimento valioso. Mostra igualmente que nenhuma novidade se torna segura através do entusiasmo de quem a promove. Foram necessários conhecimento botânico, experiência agronómica, aprendizagem culinária e práticas partilhadas para que aquele tubérculo suspeito se tornasse um dos grandes alimentos da humanidade.
A inteligência artificial exige uma prudência ainda maior. Precisamos de investigação independente, regulação democrática, limites claros e responsabilidade pelos danos. Cabe à sociedade determinar quanto risco está disposta a aceitar. A capacidade de construir uma tecnologia não concede aos seus criadores o direito de decidir por todos nós.
Continuo a recear o que uma inteligência artificial mal utilizada poderá fazer. A saga Terminator forneceu imagens suficientes para várias vidas. Hoje, os avisos mais inquietantes chegam pela voz de quem cultiva o campo, escolhe os guardas e decide quando devem afastar-se.
Vivemos num tempo em que os guardas anunciam o perigo, abrem o campo e nos pedem confiança para continuarem a cultivá-lo. Desta vez, quando os soldados se retirarem ao cair da noite, ninguém poderá dizer que ignorava o que estava a deixar espalhar-se pelo mundo.
Comentários