Aplicação de Algoritmos de Inteligência Artificial que podem tomar decisões sobre sua vida

Aplicação de Algoritmos de Inteligência Artificial que podem tomar decisões sobre sua vida

Um vídeo que mostra o médico David Dao sendo retirado de um voo da United Airlines em um aeroporto de Chicago, nos Estados Unidos.

O episódio prejudicou a imagem da empresa americana, pois a tripulação solicitou que Dao cedesse seu lugar para que um funcionário pudesse ir ao destino do voo, Louisville, para substituir a equipe local. No entanto, quase nenhuma das críticas abordou um aspecto crucial do ocorrido: a decisão de remover o médico foi tomada por uma máquina, ou seja, por um algoritmo de computador.

Esse caso é um exemplo claro de como programas, conhecidos como algoritmos, estão tomando decisões que afetam nossa vida cotidiana, muitas vezes sem que percebamos.

Especialistas expressam preocupação com a falta de transparência na utilização de inteligência artificial para tais decisões. Mesmo assim, o uso desses sistemas está crescendo: um algoritmo pode decidir se você será chamado para uma entrevista de emprego, se obterá um empréstimo, com quem você se relacionará e até mesmo o tempo de prisão que um criminoso “merece”.

Confira abaixo alguns exemplos de como algoritmos podem impactar sua vida:

1. O computador decide se você fará ou não uma entrevista de emprego

Currículos estão sendo cada vez mais descartados automaticamente, sem a revisão de um ser humano. Isso acontece porque muitas empresas utilizam sistemas automatizados para filtrar centenas de milhares de candidaturas, especialmente nos Estados Unidos, onde estima-se que mais de 70% dos candidatos sejam rejeitados antes de qualquer avaliação pessoal.

Embora esse processo economize tempo e dinheiro para as empresas, alguns questionam a imparcialidade dos algoritmos. Especialistas como Gideon Mann e Cathy O’Neil, da Harvard Business Review, apontam que esses programas podem carregar preconceitos humanos, resultando em decisões tendenciosas.

2. Seu perfil nas redes sociais pode influenciar a aprovação de um empréstimo

Hoje, algoritmos analisam dados de várias fontes para determinar se um empréstimo será aprovado, incluindo padrões de compra, pesquisas na internet e até mesmo atividade nas redes sociais. O problema é que esses dados são coletados sem o conhecimento do solicitante, e há falta de transparência sobre o funcionamento desses algoritmos.

3. Algoritmos podem te ajudar a encontrar um amor, mas não necessariamente o que você espera

Sites de namoro, como eHarmony e Tinder, usam algoritmos para conectar pessoas com base em compatibilidade. No entanto, a forma como esses algoritmos funcionam não é totalmente clara. No caso do Tinder, por exemplo, um “índice de desejabilidade” secreto é calculado para melhorar as combinações, com base em curtidas e rejeições, embora a fórmula seja mantida em sigilo.

4. Algoritmos podem determinar seu risco de abuso de drogas e impactar sua contratação de plano de saúde

Nos Estados Unidos, operadoras de planos de saúde, como a Blue Cross, estão usando algoritmos para prever comportamentos de abuso de substâncias com base em dados como histórico médico e até mesmo endereço. Embora isso possa ajudar a salvar vidas, há preocupações sobre a privacidade e o uso ético desses dados.

5. Algoritmos podem até decidir se um filme será feito

Algoritmos são usados por grandes estúdios de Hollywood, como Paramount e Warner Bros, para analisar o potencial de sucesso de filmes antes de serem produzidos. Eles não só avaliam o histórico de filmes semelhantes, mas também ajudam a prever o desempenho nas bilheteiras e o impacto de mudanças na história e elenco.

6. Algoritmos influenciam quem você vota e quem será presidente

Em uma época em que dados tornaram-se mais importantes do que empatia e carisma no mundo da política, algoritmos são cruciais para candidatos em busca de votos.

Não foi só a retórica de Barack Obama que impressionou em sua ascensão rumo à indicação do Partido Democrata para disputar a Presidência dos Estados Unidos em 2008, mas também seu uso desta tecnologia.

A campanha de Obama mirou incessantemente nos eleitores indecisos, usando uma série de informações para individualizar ao máximo os perfis do eleitorado.

Quase dez anos depois, Emmanuel Macron conseguiu uma vitória inesperada na França com uma estratégia similar – algoritmos ajudaram a identificar distritos e bairros que eram os mais representativos do país como um todo. Isso ajudou a guiar sua equipe na realização de 25 mil entrevistas usadas para estabelecer as prioridades e estratégias de sua campanha.

7. A polícia usa algoritmos para prever se você será um criminoso

O sistema de vigilância da China sobre seus 1,3 bilhão de habitantes é bem conhecido, mas parece haver espaço para expandi-lo. O governo anunciou em 2015 o desenvolvimento de um sistema capaz de “prever crimes” com base em dados pessoais, como o histórico médico e entregas de compras.

Grupos de direitos humanos acusaram as autoridades chinesas de violar a privacidade dos cidadãos, dizendo que o real propósito do sistema é monitorar dissidentes.

A China não é, no entanto, o único país a usar algoritmos para prever crimes: o policiamento baseado em dados é aplicado nos Estados Unidos há mais de uma década, e algumas forças de segurança britânicas começaram em 2012 a usar softwares de mapeamento e previsão de crimes.

O programa é bem simples em comparação com algo como o mundo retratado pelo filme Minority Report (2002): dados sobre os tipos de crimes, sua localização, data e hora geram um mapa identificando as áreas onde eles provavelmente voltarão a ocorrer.

Segundo uma pesquisa do centro britânico Royal United Services Institute for Defence and Security Studies, algoritmos podem ter até dez vezes mais chances de prever a localização de um crime futuro em comparação com o policiamento comum.

No entanto, um destes sistemas, o PredPol, usado pela polícia da Grande Manchester, no Reino Unido, gerou uma polêmica. Pesquisas mostraram que ele criava uma distorção em que policiais eram enviados para os mesmos bairros repetidamente, independentemente das reais taxas de criminalidade nestas áreas.

8. Um computador pode te mandar para a prisão

Juízes em ao menos dez Estados americanos estão tomando decisões em casos criminais com a ajuda de um sistema automatizado chamado COMPAS, baseado em um algoritmo de análise de risco para prever a probabilidade de uma pessoa cometer um novo crime.

Um caso famoso nesse sentido ocorreu em 2013, quando um homem chamado Eric Loomis foi condenado a sete anos de prisão por fugir da polícia e dirigir um carro sem a permissão do dono no Estado de Wisconsin.

Antes de a sentença ser proferida, autoridades apresentaram uma avaliação, feita com base em uma entrevista com Loomis e informações fornecidas pelo algoritmo sobre sua probabilidade de reincidência – o resultado indicava que ele tinha um “alto risco de cometer novos crimes”.

Seus advogados questionaram a condenação usando vários argumentos, entre eles que o COMPAS foi criado por uma empresa privada e que informações sobre o algoritmo não foram reveladas. Também afirmaram que os direitos de Loomis foram violados, porque a avaliação levava em conta fatores como gênero e raça.

De fato, uma análise de mais de 10 mil casos na Flórida ao longo de dois anos, publicada em 2016 pela ONG ProPublica, mostrou que a previsão de alto risco de reincidência era mais comum para negros do que para brancos.

9. Eles podem influenciar seu dinheiro

Esqueça as imagens de pessoas gritando na bolsa de valores com telefones nos ouvidos. Transações no mercado de ações estão se tornando cada vez mais um produto de cálculos feitos por algoritmos, que são mais rápidos do que qualquer humano e compram e vendem papéis em questão de segundos.

Defensores desta tecnologia afirmam que uma máquina é imune à volatilidade emocional do mercado e investe mais racionalmente. Isso, no entanto, foi questionado em 2010, quando algoritmos foram apontados como os culpados pelo crash que fez desaparecer temporariamente do mercado de ações americano US$ 1 trilhão.

Um relatório do banco JP Morgan estimou que, em 2017, investimentos com base em algoritmos ou fórmulas computacionais responderam por quase 90% do volume de transações com ações nos Estados Unidos.

Fonte: BBC News