O meio-campista iniciou a carreira em 2006, com a camisa do Stuttgart. Lá, ele permaneceu até 2010, transferindo-se ao Real Madrid após um bom desempenho na Copa do Mundo da África do Sul. Com a camisa dos merengues, Khedira disputou 161 partidas e marcou nove gols.

Em 2015, ele se transferiu para a Juventus, onde permaneceu até fevereiro de 2021, transferindo-se ao Hertha Berlin. Pela Velha Senhora, foram 145 jogos e 21 gols marcados, vencendo cinco títulos italianos consecutivos. No time da capital alemã, foram oito partidas e nenhum gol, na campanha fraca na Bundesliga.

Na Copa do Mundo de 2014, Khedira formou meio-campo com Schweinsteiger e Toni Kroos, e marcou o quinto dos sete gols da Alemanha diante da seleção brasileira nas semifinais da competição. Na decisão, o camisa 6 ficou de fora por conta de uma lesão, dando lugar a Kramer, que sequer se lembra que enfrentou a Argentina.

“Depois da partida de sábado é hora de dizer adeus. Tão orgulhoso de ter tido a chance de vivenciar todos esses momentos cruciais! Obrigado a todos os adeptos, companheiros de equipe, treinadores, e claro, minha família e amigos”, declarou Khedira em suas redes sociais.