TOPOFE: Ingegneria delle Caratteristiche Guidata da LLM e Consapevole della Topologia
Un nuovo framework chiamato TOPOFE combina modelli linguistici di grandi dimensioni con un algoritmo evolutivo multi-isola consapevole della topologia per automatizzare l'ingegneria delle caratteristiche per dati tabulari. I metodi AutoFE tradizionali sono limitati dalla generazione senza stato e dalla ricerca omogenea, convergendo verso pattern dominanti senza scoprire composizioni di caratteristiche complementari. TOPOFE introduce un'esplorazione specializzata per famiglie e una potatura adattiva per superare queste limitazioni, consentendo trasformazioni delle caratteristiche più diversificate ed efficaci. L'approccio è formulato come un problema di sintesi di programmi, sfruttando gli LLM per generare programmi di caratteristiche oltre le librerie di operatori predefinite. L'articolo è pubblicato su arXiv con ID 2607.23286.
Fatti principali
- TOPOFE è un framework evolutivo multi-isola consapevole della topologia per l'ingegneria delle caratteristiche guidata da LLM.
- Affronta le limitazioni della generazione senza stato e della ricerca omogenea negli attuali AutoFE basati su LLM.
- Il framework combina esplorazione specializzata per famiglie e potatura adattiva.
- L'AutoFE per l'apprendimento tabulare è formulato come un problema di sintesi di programmi.
- Gli LLM consentono la generazione di programmi di caratteristiche oltre le librerie di operatori predefinite.
- L'articolo è disponibile su arXiv con ID 2607.23286.
- L'approccio mira a scoprire trasformazioni predittive delle caratteristiche da uno spazio di ricerca esponenzialmente grande.
- TOPOFE previene la convergenza verso pattern di trasformazione dominanti.
Entità
Istituzioni
- arXiv