Si necesita cambiar el contenido de un elemento, sea lo que sea: texto o un icono, con AngularJS es muy fácil.
Solo necesita establecer una variable para cambiar la condición:
#the variable (and can be the name you want)
ng-model="collapsed"
#change the condition on click :D
ng-click="collapsed=!collapsed"
Y la magia sucede así:
<button ng-model="collapsed" ng-click="collapsed=!collapsed">
<i ng-class="{'fa fa-angle-up':collapsed,'fa fa-angle-down':!collapsed}"></i>
</button>