גדל במחלקת הנוער של בית"ר ירושלים וערך את הופעת הבכורה שלו בקבוצה הבוגרת בגיל 20. בשנת 2006-2007 שימש הרוש כשוער הראשון של קבוצת הנוער של המועדון שזכתה באותה עונה בדאבל היסטורי. בתום אותה עונה הוקפץ הרוש לסגל הקבוצה הבוגרת במטרה להפוך לשוער הראשון של הקבוצה.

בעונת 2007-2008 המשיך הרוש לשמש כשוער של קבוצת הנוער עימה זכה באליפות נוספת, אך במקביל שימש כשוער השלישי של הקבוצה הבוגרת וסומן כ"יורש" של איציק קורנפיין. במהלך עונת זאת התחשל השוער הצעיר ובתחילת עונת 2008-2009 הפך לשוער השני של הקבוצה.

עונת 2008-2009 הייתה עונת התפנית של הרוש. בפתיחת העונה הפך השוער בן ה-21 לשוער השני של בית"ר ירושלים והתחרה עם טברקטו קאלה על המקום בהרכב. השוער הקרואטי שפתח את העונה בצורה צולעת, נשלח לספסל למספר משחקים כשאת מקומו בשער תפס אריאל הרוש הצעיר. המשחק שהרוש יזכור יותר מהכל היה התבוסה 0-4 להפועל תל-אביב בבלומפילד אך דווקא אותו משחק רק חישל את השוער הצעיר. את אותה עונה סיים הרוש עם 5 משחקי ליגה אך עם המון ביטחון.

בפתיחת עונת 2009-2010 הפך אריאל הרוש לשוער הראשון של הקבוצה. כבר במשחקים הראשונים של העונה הציג יכולת טובה מאוד ובתום העונה זכה בתואר "תגלית העונה" ונבחר לאחד השעורים הטובים ביותר בליגה. היכולת הטובה בבית"ר ירושלים העניקה לו גם את חולצת ההרכב בנבחרת האולימפית. בתום העונה זומן הרוש לראשונה בחייו לנבחרת הבוגרת של ישראל.

בתאריך 15 באוגוסט 2010 האריך הרוש את חוזהו בבית"ר ירושלים לחמש עונות נוספות.