Um sistema de inteligência artificial desenvolvido pelo Facebook criou seu próprio idioma. A tecnologia desenvolveu um sistema de palavras-chave para tornar a comunicação mais eficiente.
Os pesquisadores, então, decidiram por desligar o sistema quando perceberam que os computadores já não operavam com os comandos em inglês, impedindo qualquer comunicação com a tecnologia.
Esta não foi a primeira vez que a AI, mesmo sendo sendo monitorado por humanos, divergiu de seu treinamento em inglês para desenvolver seu próprio idioma.
As frases resultantes parecem não ter qualquer sem sentido para os seres humanos, mas conter o significado semântico quando interpretado por “agentes” de AI.
Os AI modernos operam em um princípio de “recompensa” onde eles esperam seguir uma ação para obter um “benefício”. Neste caso, como não houve recompensa por continuar a usar o inglês, então eles criaram uma solução mais eficiente.
Especialistas afirma que as línguas inventadas por AI, caso se tornem padrões, elas poderiam causar problemas no desenvolvimento de ferramentas e na adoção de redes neurais pela indústria.
Não há evidências suficientes, neste momento, para determinar que sejam uma ameaça que poderia permitir que as máquinas anulassem seus operadores.
