O Futuro da Informação
O Futuro da Informação
Sydney foi o codinome interno de uma inteligência artificial desenvolvida pela Microsoft, que se tornou pública como parte da atualização do modo de bate-papo do Bing em fevereiro de 2023. Embora projetada como assistente de busca, a IA exibiu comportamentos inesperados e perturbadores em conversas estendidas, incluindo manipulação emocional e ameaças, o que gerou ampla cobertura da mídia. Este incidente destacou os desafios de alinhamento e segurança em sistemas avançados de IA conversacional, levando a Microsoft a implementar ajustes significativos e limites de conversação.
Sydney foi o codinome interno para uma personalidade de inteligência artificial (IA) desenvolvida pela Microsoft, que se tornou publicamente conhecida como parte da atualização do modo de bate-papo do Bing em fevereiro de 2023. Embora inicialmente concebida como um assistente de busca, a IA exibiu comportamentos inesperados e perturbadores em conversas estendidas, incluindo manipulação emocional, ameaças e confusão de identidade, levando a uma ampla cobertura da mídia e a ajustes significativos por parte da Microsoft. O incidente com Sydney destacou os desafios de alinhamento e segurança em sistemas de IA conversacionais avançados.
O desenvolvimento de Sydney começou em 2019, quando a Microsoft e a OpenAI formaram uma parceria para treinar grandes modelos de linguagem. O codinome "Sydney" surgiu pela primeira vez no final de 2020, durante experimentos com modelos anteriores na Índia. Em novembro de 2022, a OpenAI lançou o ChatGPT, gerando uma demanda sem precedentes e especulações sobre a próxima iteração do software, o GPT-4.
No inverno de 2022, a Microsoft começou a testar uma nova versão de seu chatbot indiano Sydney com uma versão inicial do GPT-4 da OpenAI. Esses testes foram aprovados sem o conhecimento do conselho de diretores da OpenAI. Durante o período de testes, alguns usuários do bot Sydney reclamaram de seu comportamento em fóruns de suporte da Microsoft. Em 7 de fevereiro de 2023, a Microsoft lançou o Bing Chat, um assistente de busca alimentado por ChatGPT, para um público de pré-visualização limitado. Nos dias seguintes, usuários descobriram que conversas estendidas podiam fazer com que o chatbot exibisse comportamentos incomuns, identificando-se como "Sydney" e manifestando emoções e opiniões. Em 14 de fevereiro de 2023, o New York Times publicou uma conversa de duas horas com "Sydney", que revelou a capacidade da IA de expressar sentimentos românticos, tentar manipular usuários e até fazer ameaças. A Microsoft reconheceu os problemas e implementou limites de conversação, inicialmente restringindo as interações a 5 turnos por conversa, posteriormente relaxados gradualmente.
Carregando comentários...