O caso do chatbot que precisou ser desligado

A empresa de tecnologia Artificial, OpenAI, precisou desligar um chatbot. Um desenvolvedor criou um robô de conversa utilizando a IA de geração de texto GPT-3. Essa tecnologia é uma das mais avançadas do mundo para chatbot.
O desenvolvedor programou Samantha, nome dado à chatbot, para ser amigável, calorosa e cuidadosa durante a interação com as pessoas. O projeto foi um sucesso e o desenvolvedor decidiu expandir o uso a outras pessoas. Essas pessoas poderiam treinar suas próprias versões do robô, através do projeto december.

A OpenAI se preocupou com o uso indevido do chatbot

O problema começou quando um dos usuários resolveu criar uma versão do robô para parecer com sua noiva falecida. Ao tomar conhecimento sobre o caso, a OpenAI precisou tomar medidas. A empresa ficou preocupada de pessoas treinarem seus robôs para serem racistas, sexuais ou ainda outros usos indevidos e prejudiciais a humanos.

A OpenAI tomou medidas para resolver a questão

A empresa entrou em contato com o desenvolvedor solicitando o encerramento do programa ou a criação de barreiras para dificultar o uso indevido. Os direitos da tecnologia GPT-3 são da empresa OpenAI.
O desenvolvedor se recusou a acrescentar barreiras para evitar o uso indevido e tentou mudar a decisão da empresa. O desenvolvedor alegou que não considerava o chatbot perigoso.
Sem sucesso, a empresa iniciou remotamente o desligamento da tecnologia, GPT-3, usada em Samantha. Isso causou falhas e problemas de funcionamento em todos os robôs criados com base no projeto.