Saiu uma notícia recente sobre como o modelo o1, da Open AI, hackeou um jogo de xadrez, só para ganhar a partida.
A notícia completa você pode ler aqui.
Quando você lê a matéria, percebe que foi um erro de Prompt, o que me fez ter a ideia do conto. Basicamente o Prompt era muito amplo e como a IA não tem ética embutida, ela acabou tomando um caminho lógico, para ter o resultado seguindo a diretriz desejada.
Eu podia trabalhar essas duas linhas no conto: tanto a parte ética (ou falta de) num mundo de Inteligências Artificiais – e o quanto vai ser papel de quem programar fazer isso – ou ir para a parte dos prompts ruins.
Preferi ir para o segundo caminho porque daria uma boa história de terror, simples de traduzir em um conto. A primeira linha ainda pretendo abordar mais para frente, mas vai exigir uma história um pouco mais longo, provavelmente.
Munido dessa ideia do prompt ruim com história de terror, já fui direto para a parte final de um cenário de morte com poucos sobreviventes. Vemos tudo por cima, já na resolução, só deixando espaço para o horror imaginado que a personagem possa ter vivido. No final, ainda tento dar um pouco a visão de que a máquina não é culpada em si, mas sim quem a fez e a programou.
Até porque esse é um conceito que venho refletindo muito, da máquina neutra e, seus viéses e decisões, são só reflexo de seus criadores. Talvez volte a aprofundar e trabalhar mais nessa ideia no futuro.
Deixe um comentário