LightGBM står för Light Gradient Boosting Machine. Det är en ny generation Gradient Boosting ramverk från Microsoft. Det utmärker sig bland andra gradient boosting ramverk såsom XGBoost och CatBoost för sin högre hastighet och effektivitet. Väsentliga fördelarna med LightGBM inkluderar lägre minnesanvändning, bättre noggrannhet, möjlighet att hantera stora datamängder, och stöd för GPU-lärande.
Den underliggande idén bakom LightGBM, liksom alla gradient boosting-modeller, är att slumpmässigt kombinera svaga förutsägelsemodeller för att skapa en stark, förenad prediktiv modell. LightGBM använder historgram-baserade algoritmer, vilket genom att skapa diskreta trappstegar av kontinuerliga variabler, minskar antalet splittringspunkter som behöver beaktas, och därmed förbättrar algoritmernas hastighet och effektivitet.
LightGBM presenterar också Leaf-wise Growth-strategin i motsats till den mer traditionella Level-wise Growth-strategin. Istället för att utveckla alla noderna på samma nivå, delar denna strategi noden som kommer att minska förlusten mest, vilket möjliggör mer exakta förutsägelser och resulterar i snabbare träning och bättre noggrannhet.
