La dimensione dei chunk di testo influisce significativamente sulle prestazioni RAG

Un nuovo studio da arXiv (2607.24767) esamina come la granularità della suddivisione in chunk dei documenti influisca sui sistemi di Retrieval-Augmented Generation (RAG). RAG consente ai modelli linguistici di grandi dimensioni di recuperare informazioni rilevanti durante la generazione del testo. La ricerca rileva che la dimensione dei chunk—da singole frasi a interi capitoli—influisce criticamente sulla qualità della generazione, sulla correttezza contestuale, sulla precisione del recupero e sull'efficienza computazionale. Chunk più piccoli consentono un recupero preciso ma possono limitare la coerenza, mentre chunk più grandi forniscono un contesto più ampio ma rischiano la diluizione. Gli autori sostengono che la dimensione dei chunk è spesso selezionata senza una valutazione adeguata, nonostante il suo impatto significativo. Lo studio evidenzia la necessità di un'ottimizzazione sistematica della dimensione dei chunk nei pipeline RAG.