La formulazione dei compiti induce presupposizioni nei LLM

Un nuovo studio di arXiv indaga come la formulazione dei compiti possa indurre presupposizioni nei grandi modelli linguistici (LLM), compromettendo la loro adattabilità quando i compiti si discostano da tali assunzioni. Utilizzando il dilemma del prigioniero iterato come caso di studio, i ricercatori hanno scoperto che i LLM sono inclini a presupposizioni anche quando impiegano passaggi di ragionamento. Tuttavia, una formulazione neutra ha permesso ai modelli di dimostrare un ragionamento logico con meno presupposizioni. I risultati sottolineano l'importanza di una progettazione attenta dei compiti per mitigare i rischi nelle applicazioni reali dei LLM.