À medida que as nossas vidas ficam mais dependentes da IA – das previsões meteorológicas às transações do mercado financeiro ou às análises de DNA –, estamos delegando as escolhas humanas. A IA escolhe as notícias e informações a que estamos expostos e sugere o que devemos comprar.

A utilização de algoritmos nas redes sociais resulta na diminuição da exposição das pessoas a notícias que suscitem atitudes contrárias, facilitando a polarização de pontos de vista. Entre os millenials – também conhecidos como Geração Y –, em muitas partes do mundo, as redes sociais são frequentemente a fonte dominante de notícias sobre política e governos. Ao recomendarem vídeos e notícias de forma automatizada, o conteúdo manipulativo chega agora facilmente aos que o visualizam, amplificando a difusão da desinformação. As redes sociais também podem alimentar ondas populistas, nacionalistas e xenófobas em todas as sociedades.

A IA contribui para a criação de informações falsas e para a propagação da desinformação. Deve-se considerar que as redes geradoras antagônicas criam áudios e vídeos falsos. Essas tecnologias podem agora ser facilmente utilizadas através de aplicações para criar falsificações graves e perigosas. Em 2016, mais de 50% do tráfego da Internet foi gerado por bots. De fato, a informação falsa tende a espalhar-se mais amplamente que a verdadeira. As redes sociais podem reduzir a avaliação crítica e facilitar a difusão de teorias da conspiração.

Na mesma ordem de ideias, quem é responsável por decisões erradas em matéria de IA? Os pedidos de crédito são rejeitados, e as publicações nas redes sociais são eliminadas com base em decisões de IA, enquanto os mecanismos para contestar essas decisões não se encontram totalmente desenvolvidos. Muitos algoritmos são opacos, não são regulamentados e difíceis de contestar. Algoritmos de reconhecimento de padrões podem ser aplicados para atingir determinadas pessoas ou produzir danos colaterais desproporcionais e tendenciosos quando há imperfeições no código ou nos dados de formação. A utilização de IA nas forças armadas para a utilização de armas autônomas ou de robôs assassinos levanta muitas questões.

A aprendizagem automática também fornece às empresas informações de mercado que nunca tiveram antes, criando novos caminhos para a publicidade enquanto violam potencialmente a privacidade do consumidor. Quando os consumidores compram online, revelam as suas preferências e, possivelmente, informações sobre os seus amigos e familiares, que as empresas podem utilizar para expandirem o alcance do mercado. Tais dados, frequentemente fornecidos inadvertidamente pelos consumidores, podem transferir informações para empresas sem restrições sobre a forma como podem ser utilizados.