Little Brother blev dannet i North Carolina i 1998 af de to rappere Phonte og Big Pooh samt produceren og dj'en 9th Wonder. Gruppenavnet kom på plads omkring årtusindeskiftet og var en hyldest til forbillederne - eller de åndelige storebrødre - De la Soul, A Tribe Called Quest og The Roots m.fl.
Som en del af kollektivet The Justus League begyndte Little Brother at gøre sig synlig på den amerikanske undergrundsscene, og da gruppen i 2003 udsendte den tænksomme og optimistiske debut 'The Listening' stod både anmeldere og hiphop-fans i kø for at udråbe gruppen som hiphoppens redningsmænd.
I 2005 udsendte Little Brother det stærke album 'The Minstrel Show', der skabte en del furore, grundet gruppens sammenligninger mellem hiphop-kulturen og fortidens minstrel-shows, hvor sorte mere eller mindre frivilligt lod sig ydmyge for at underholde et hvidt publikum. Det var også i den forbindelse at tv-stationen BET nægtede at spille gruppens musik, da det var for intelligent til deres publikum. Fold ud