The Great Unknown fick generellt positiva recensioner från musikkritiker. På Metacritic , som tilldelar ett normaliserat betyg av 100 till recensioner från vanliga kritiker, fick albumet en genomsnittlig poäng på 69 baserat på 4 recensioner. I en positiv recension Stephen Thomas Erlewine från AllMusic skivan som "ett album som medvetet kringgår många av Thomas signaturrörelser samtidigt som det fortfarande låter omisskännligt som honom." Sarah Rodman från Boston Globe skrev att på The Great Unknown fortsätter sångaren sin karriär med att komponera, "fångande melodier, texter som är enkla i sin universalitet och skarpa produktion". Enligt henne "blir Thomas antingen en starkare, mer nyanserad sångare eller fortsätter att lära sig att skriva på ett sätt som mer effektivt visar de olika aspekterna av hans röst."
I en mer blandad recension skrev Chuck Arnold från Rolling Stone : "Rob Thomas är fortfarande en känd kvantitet på sitt tredje soloalbum. Även om det betyder att det inte finns många överraskningar, är de goda nyheterna att han fortfarande är samma fulländade poprockhantverkare som har fått det hela att låta så smidigt i flera år." Jim Farber från New York Daily News var mer kritisk till albumets komposition och texter: "Sångerna erbjuder få individualiserade lyriska detaljer, och inga konsekventa teman, att fästa på en viss person. Arrangemangen har också en smidig anpassningsförmåga som gör dessa låtar som är användbart covermaterial för alla popstjärnor i timmen."