2005年，约什·麦克罗伯茨进入杜克大学。在大一赛季，麦克罗伯茨场均8.7分5.3板1.5助攻外加1.3次盖帽，还打出了全队最高的提篮命中率：60.5%，新生赛季的麦克罗伯茨入选大西洋海岸联盟新生最佳阵容。他帮助杜克大学蓝魔队取得了32胜4负的大西洋海岸联盟常规赛最好成绩，并击败波士顿学院鹰队获大西洋海岸联盟锦标赛冠军，他也入选了全美新生最佳阵容第三队。麦克罗伯茨在赛季最后两个月的14场比赛中，场均达到10.4分6.3板，投篮命中率达59.6%（89投53中），这段时间里，他也拿下了他15次两位数得分中的10次。这一年还拿下了5次双位数篮板、两次两双。

大一赛季结束后，尽管有预期认为他有进入NBA选秀乐透顺位的可能，但麦克罗伯茨声明不参加NBA选秀，在2006-07赛季留在了杜克大学。2006年8月3日，麦克罗伯茨接受了一次成功的腰椎间盘切除术。自高中以来，他就被慢性背伤折磨，这次手术缓解了这一问题。

大二赛季，麦克罗伯茨出赛33场，场均13.0分7.9板3.5次助攻，投篮命中率50.2%。2006年10月19日，对肯特州立大学的比赛中，麦克罗伯茨拿下大学生涯最高的19分，外加6次盖帽、6个篮板、4次助攻、4次抢断，成为杜克校史上首位在五项统计数据上都达到4以上的球员。2006年杜克两名大四生J.J.雷迪克和谢尔顿·威廉姆斯毕业后，麦克罗伯茨同GregPaulus一起担任队长，不过整个赛季球队表现不佳NCAA锦标赛勉强入选第一轮遭到淘汰。