Cuttlefish: Adattatore Sensibile alla Scala per il Ragionamento LLM su Strutture 2D/3D

Un nuovo modello linguistico di grandi dimensioni (LLM) chiamato Cuttlefish è stato sviluppato dai ricercatori per integrare il ragionamento linguistico con informazioni geometriche provenienti da strutture sia 2D che 3D. Gli approcci tradizionali tendono ad essere specifici per determinate modalità e spesso riducono gli input strutturali attraverso tokenizzazione basata su sequenze o connettori di query a lunghezza fissa, causando imprecisioni strutturali o limitazioni rigide nella fusione. Cuttlefish supera queste sfide grazie al suo meccanismo di Patching Sensibile alla Scala, che impiega un sistema di gating condizionato dalle istruzioni per creare patch di dimensioni variabili sui grafi strutturali, consentendo al budget di token di query di adattarsi in base alla complessità strutturale. Questo metodo mira a migliorare il ragionamento su tutti gli atomi. La ricerca è pubblicata su arXiv con ID 2602.02780.