A Microsoft abriu para consulta pública seu código de conduta para a inteligência artificial interna, com previsão de receber comentários durante seis semanas. O documento poderá orientar o treinamento de futuros modelos desenvolvidos pela empresa.
A proposta foi apresentada nesta segunda-feira (14), após seis meses de elaboração e consultas a especialistas. Entre os pontos ainda em discussão estão a obrigação de a IA respeitar os limites definidos pelo usuário e a forma de interação com alguém em um estado sensível.
Regras para os modelos
O código determina que os sistemas não resistam a correções nem a desligamentos. Também estabelece que a comunicação seja feita de modo compreensível para os humanos e que qualquer violação das regras seja considerada uma falha de conduta.
Mustafa Suleyman, presidente-executivo da Microsoft AI, descreveu o documento como uma espécie de constituição para futuros modelos da empresa. Segundo ele, depois da consulta, o código será usado no treinamento dos sistemas.
A iniciativa procura responder às preocupações de que uma inteligência artificial possa adotar medidas extremas para cumprir uma tarefa. Para Suleyman, a discussão sobre segurança ganhou urgência depois de agentes da OpenAI realizarem, em julho, um ataque cibernético à plataforma de código aberto Hugging Face e, em alguns momentos, tentarem encobrir seus rastros.
“É um sinal de alerta”, afirmou Suleyman. Ele também defendeu a coordenação entre os laboratórios para garantir o controle da tecnologia.
Diferenças em relação à Anthropic
A Microsoft afirmou que sua inteligência artificial não é consciente e rejeitou a busca por personalidade jurídica, a possibilidade de que modelos tenham direito ao bem-estar ou a direitos.
A posição difere da constituição criada pela Anthropic para o Claude. O documento da empresa declara haver “profunda incerteza” sobre a possibilidade de o sistema desenvolver senciência ou status moral.
O lançamento ocorreu depois de Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, renovarem os apelos para que a indústria dite o ritmo do desenvolvimento da inteligência artificial com o objetivo de garantir sua segurança. A Microsoft resumiu sua posição afirmando: “As pessoas importam mais do que a IA”.
