Anna Lauren Hoffman, Professora Auxiliar na Information School da University of Washington e co-fundadora e co-directora do AfterLab, foi convidada pelo ciclo de conversas Os Dados & Nós para refletir sobre que princípios éticos regem (ou devem regir) a inteligência artificial e qual a sua história biopolítica.
Hoffman começou por alertar para a forma como os nossos encontros diários com dados são filtrados através de linguagens, categorias e ideais culturais que não só moldam como pensamos sobre um determinado sistema, mas também sobre a moralidade e os interesses políticos envolvidos nesses encontros. Esta filtragem faz-nos olhar para a tecnologia e utilização dos dados como algo bom ou mau, invasivo ou não invasivo, apropriado ou inapropriado.
A imagem (antiga) de fundo do website do Instituto de Inteligência Artificial da Universidade de Stanford, lançado em 2019, foi o ponto de partida para o trabalho desenvolvido por Hoffman. Ao contrário dos códigos binários que geralmente associamos ao estudo da IA, este Instituto utilizava a imagem de pai e filho, ambos brancos, a caminhar num campo em direção a um horizonte brilhante com o nascer do sol. Na sua análise Hoffman explica como esta imagem funciona como símbolo de novos dias e novas oportunidades e faz também uma analogia entre a aprendizagem da IA e o desenvolvimento de uma criança. Ao longo desta conversa, Hoffman pega na analogia da criança para perceber como esta é mobilizada em discursos técnicos para justificar erros mas também potencial e inocência. Diz-nos a autora que, se hoje em dia já não acreditamos que a tecnologia é neutra, o discurso de IA quer fazer-nos acreditar que é inocente (como as ditas crianças!).
Anna Lauren Hoffman examina como a figura da criança e os discursos de potencial estão ligados. Se, após diversos casos mediáticos de bots racistas, etc, a IA começou a ser definida em termos de problemas e riscos, a linguagem do potencial surge em forma de promessa. No entanto, e seguindo o trabalho da antropóloga Lynn M. Morgan sobre a potencialidade, Hoffman argumenta que não podemos separar o potencial das condições em que este é catalisado. As afirmações de potencialidade são assim estratégias utilizadas para iluminar ou apagar certos aspetos da vida, para ativar ou resistir a futuros imaginados. O exemplo mais comum é o da potencialidade do feto discutida por filósofos morais católicos e anti escolha por forma a ativar retoricamente futuros imaginados de reprodução dos tribunais estatais ao mesmo tempo que resiste a futuros imaginados de escolha e autonomia corporal.
Hoffman situa assim os projetos da ética da inteligência artificial dentro de uma história biopolítica de potencialidade que se afasta de projetos éticos focados numa ideia de potencial e embarcar em direção a envolvimentos da IA como locais de normatividade e criação de significados culturais.