Presidenterna också överens om att USA skulle lämna över vårdnaden av fångar till den afghanska regeringen, var ett steg Karzai sade avgörande för hans lands suveränitet.
Övergången av amerikanska trupper till en stödjande roll genom denna vår skulle vara flera månader tidigare än mitten-2013 överenskommits i Natos toppmöte i Chicago förra året.
Herr Obama sade amerikanska styrkor kunde stanna kvar i Afghanistan i den stödjande roll efter 2014.
Men detta skulle bara vara på inbjudan av den afghanska regeringen och enligt en överenskommelse som garanterar amerikanska trupper immunitet mot afghansk lag.
Karzai sade att han var "mycket glad" över att höra att afghanska styrkor skulle ta över ansvaret för att tillhandahålla säkerhet genom våren.
"De internationella styrkorna, de amerikanska styrkorna, kommer inte längre finns i byarna, att det kommer att vara en uppgift för de afghanska styrkorna att ge det afghanska folket i säkerhet och skydd," den afghanska ledaren sa.
Herr Obama upprepade amerikanska målet att förstöra resterna av al-Qaida, och sade att USA hade kommit nära att nå det.
Karzai och Barack Obama åtagit sig att mejsla fram ett bilateralt säkerhetsavtal så snart som möjligt.