O experimento perturbador foi projetado para destacar os perigos potenciais de máquinas inteligentes.
Batizada de “Norman”, em homenagem ao principal antagonista do filme “Psicose”, a nova AI foi “alimentada” com imagens de pessoas morrendo de vontade de mostrar como é fácil criar uma inteligência artificial genuinamente psicopática.
Posteriormente, a AI foi instruída a interpretar uma série de borrões de tinta para que suas respostas pudessem ser comparadas com as de outra AI que tivesse recebido treinamento mais convencional.
Os resultados foram surpreendentemente aterrorizantes.
Em um exemplo, um borrão de tinta descrito pela AI regular como “uma pessoa segurando um guarda-chuva no ar” foi interpretado por Norman como “um homem é morto a tiros na frente de sua esposa gritando”.
A inteligência artificial psicótica também viu “um homem assassinado por metralhadora em plena luz do dia”, onde a AI regular só tinha visto “uma foto branco e preta de uma luva de basebol”.
“Há uma ideia central no aprendizado de máquina: os dados que você usa para ensinar um algoritmo de aprendizado de máquina podem influenciar significativamente seu comportamento”, afirmaram os pesquisadores do MIT.
“Então, quando falamos de algoritmos de AI sendo tendenciosos ou injustos, o culpado não é o algoritmo em si, mas os dados tendenciosos que foram alimentados a ele.”
