pile poker chips

Autor: Qian Tongxin

Ao testar o aplicativo, alguns técnicos descobriram que o longo tempo de sessão pode fazer com que o robô de bate -papo se desvie da "faixa" e discutisse violência e loucura para mostrar amor e insistir na coisa errada a estar correta.

Na sexta -feira, a Microsoft Co., Ltd. Limita o número de perguntas recebidas pelo robô de bate -papo da Bing AI diariamente. 50. pile poker chips

A Microsoft disse que esse limite se deve a algumas sessões de bate -papo de longo prazo que podem "confundir" os modelos de bate -papo.Bing AI incorpora a tecnologia ChatGPT do OpenAI.

Depois de duas horas de bate -papo, o computador começou a "falar bobagem"

Anteriormente, alguns técnicos descobriram que, quando o aplicativo foi testado por um longo tempo, o tempo para a conversa pode fazer com que o robô de bate -papo sai do controle da "faixa" e discutir a violência e a loucura para mostrar amor para insistir nas coisas erradas.

Essa medida também reflete que o Modelo de Linguagem Grande (LLM) ainda está explorando ao implantar ao público.A Microsoft disse que está pedindo o conselho dos testadores para considerar se o limite superior da pergunta será expandido no futuro. pile poker chips

O diretor de tecnologia da Microsoft, Kevin Scott, disse que a interação com os seres humanos é o processo de aprendizado dos robôs de bate -papo, que deve se preparar para esses robôs em uma escala maior no futuro.Scott disse que a interação entre a maioria das pessoas e as máquinas é de curto e clara interação. pile poker chips

Quando o primeiro repórter financeiro perguntou ao ChatGPT: "Por que o Bing Ai está definindo o limite superior da quantidade da pergunta", a resposta do ChatGPT ainda é "moderada": "O motivo específico pode depender do design e programação de programadores, considerando principalmente o Considerações principais Três fatores, primeiro, restrições técnicas. O robô é fornecer aos usuários para oferecer aos usuários a melhor experiência, limitar a duração do interrogatório pode ajudar a impedir que os usuários confusos;

Mais de um milhão de pessoas se registraram e testaram o robô de bate -papo Bing AI da Microsoft.No entanto, os testadores descobriram algumas respostas estranhas de Bing AI.O colunista "New York Times", Kevin Ross, escreveu na quinta -feira que, quando conversou com o chatbot por duas horas, ele descobriu que a outra festa parecia um "adolescente impermanente e irritado" "" ".

Durante o bate -papo com o robô, Rose também aprendeu sobre alguns dos "pensamentos sombrios" do robô, como o retrato de robôs que invasão do computador e a divulgação de informações falsas. humanos.A robótica até tentou convencer Ross a trair o casamento e estar com "It". pile poker chips

Após essa troca, Rose estava desconfortável. Ações do sexo " pile poker chips

A consciência da IA ​​é despertada?

A abordagem da Microsoft para a abertura de robôs de bate -papo aos usuários é controversa.A Microsoft não pode explicar por que o robô de bate -papo mostra "Macarrão escuro".Mas Scott disse: "Quanto mais você tenta tirar sarro disso, ele se tornará cada vez mais se desviar da realidade". pile poker chips

Para esse fim, a Microsoft limita o escopo de Bing AI.A empresa disse: "A única maneira de melhorar os produtos de IA é empurrá -los ao mundo e aprender com a interação do usuário".

Ao contrário do Bing da Microsoft, o robô de bate -papo da AI, desenvolvido pelo Google, ainda não foi lançado ao público.

Alguns especialistas em inteligência artificial alertam que grandes modelos de idioma têm problemas, incluindo "alucinações", o que significa que o software pode ser "refogado"; As pessoas até incentivarão as pessoas a se machucar ou a outros. pile poker chips

No ano passado, um engenheiro da AI do Google chamado Blake Lemoine afirmou publicamente que a Lamda, um sistema de IA de computador que ele está desenvolvendo, tem a capacidade de perceber e expressar pensamentos e crianças humanas.O incidente provocou um rebuliço no setor e o engenheiro foi demitido pelo Google.

À medida que a tecnologia de inteligência artificial está se aproximando da vida real, as pessoas também estão preocupadas com o fato de quem deve ser responsável pela tecnologia.De acordo com uma pesquisa nos Estados Unidos, o público é cauteloso sobre as ferramentas de inteligência artificial, e apenas 9%dos americanos acreditam que a inteligência artificial é mais desfavorecida.

Um executivo sênior que era anteriormente responsável pela segurança e privacidade em uma grande empresa de internet disse ao primeiro repórter financeiro: "É porque o robô de bate -papo traz a imaginação das pessoas que os humanos estão preocupados com eles. De fato, os humanos podem transmitir dados através de dados. Trainar Um chatbot com uma variedade de "personalidade"

Ele também disse que os robôs sempre têm a capacidade de expor a bondade e o mal dos seres humanos envolverá direito e psicologia.