Ambrosius wurde als Sohn des römischen Statthalters für Gallien geboren. Seine Mutter war eine überzeugte Christin. Von zahllosen Legenden wird die des Bienenschwarms über der Wiege des Kindes oft in Darstellungen festgehalten: Bienen träufelten Honig in seinen Mund und flogen davon, ohne das Kind zu verletzen; aber sie hatten ihm die "honigsüße Sprache" seiner späteren Schriften und seiner Hymnen, besonders des "Ambrosianischen Lobgesangs", vermittelt.
Nach dem Tod des Vaters zog die Familie nach Rom, wo Ambrosius eine umfassende Bildung erhielt und bald eine steile Karriere als Politiker machte. Von Kaiser Valentinian wurde er 373 zum Statthalter für Ligurien und die Emilia in Oberitalien ernannt mit Sitz in Mailand. Das Volk liebte und achtete ihn, weil er Milde und Gerechtigkeit walten ließ.
374 wurde Ambrosius ob dieser Beliebtheit zum Bischof von Mailand gewählt: Bei der Wahl des Nachfolgers für den verstorbenen Bischof Auxentius, der Anhänger des Arianismus gewesen war, waren heftige Streitigkeiten zwischen der orthodoxen und der arianischen Bevölkerung ausgebrochen; als Führer der Verwaltung nahm Ambrosius an der Wahl als Beobachter teil. Er war noch nicht getauft, lebte aber im Katechumenat, der mehrjährigen Lehr- und Einführungszeit in den christlichen Glauben, die normalerweise mit der Aufnahme in die Kirche durch die Taufe in der Osternacht abgeschlossen wurde. Ambrosius wurde als Bischof vorgeschlagen, er wurde getauft und eine Woche später, am 7. Dezember, zum Bischof geweiht. Seinen Besitz verkaufte er und schenkte ihn den Armen.
Ambrosius studierte Theologie und lernte, Bischof zu sein. Er war eifrig als Seelsorger und kümmerte sich intensiv um Arme, die ihn belagerten, so dass man oft nicht bis zu ihm vordringen konnte; er war ein großer Beter und galt bald schon als begnadeter Prediger. Energisch verteidigte er die Rechte und die Unabhängigkeit der Kirche gegenüber staatlichen Übergriffen: "Der Kaiser steht innerhalb der Kirche, nicht über ihr." Viele Schwierigkeiten bereitet ihm die Auseinandersetzung mit Justina, der Mutter des Kaisers Valentinian, und ihren arianischen Anhängern. Er nötigte den römischen Kaiser Theodosius I., öffentlich Reue und Buße zu bekunden, weil er ein Massaker an Aufständischen in Thessaloniki angeordnet und 7000 Menschen im Zirkus hatte umbringen lassen. Kaiser Gratian bewog er, die staatlichen Zuwendungen an den römischen Götterkult einzustellen. 391 verbot der Kaiser auf Ambrosius' Drängen alle heidnischen Kulte und erhob das Christentum zur alleinigen Staatsreligion, womit die Anerkennung des Christentums durch Konstantin nun sogar bis zu dessen Monopolstellung fortgeführt wurde.
Ambrosius verhinderte die Ausbreitung des Arianismus und verschaffte dem beim 1. Konzil von Nicäa beschlossenen Glaubensbekenntnis allgemeine Geltung. Er verfasste exegetische Kommentare - so eine Auslegung der Schöpfungsgeschichte mit dem Titel "Exameron", "sechs Tage" und einen Lukaskommentar - sowie ein Kompendium zur christlichen Ethik und zur Unterrichtung der Neugetauften bestimmte Werke; seine Vorbilder waren Philo, Origenes und Basilius. Ambrosius war ein großer Hymnen-Dichter; von den unter seinem Namen überlieferten Hymnen hat er mindestens zwölf gedichtet. Der seit dem 8. Jahrhundert nach ihm benannte "Ambrosianische Lobgesang" wird ihm zwar irrtümlich zugeschrieben, steht aber in der von ihm begründeten Tradition und ist neben dem Gregorianischen Gesang eine der großen Choraltraditionen der lateinischen Kirche, bestimmend für den Aufbau der Liturgie. Nach Augustinus hat Ambrosius den Gesang von Antiphonen und Hymnen in die Liturgie eingeführt und ist so der Begründer des Gemeindegesangs in der Kirche. Eine Übertragung seines Hymnus "Veni, redemptor gentium" gibt es unter dem Titel "Komm, du Heiland aller Welt" im katholischen Gotteslob (GL 108).
Ambrosius ist als wohlwollender Freund der Monika bekannt, der Mutter des Augustinus, der unter seinem Einfluss zum Glauben fand und 387 von ihm getauft wurde. Ambrosius starb am Karfreitag.
Die Mailänder benannten eine umfangreiche Bibliothek nach Ambrosius. Der Bienenkorb, mit dem er oft dargestellt wird, symbolisiert Fleiß und Gelehrsamkeit; das Buch kennzeichnet den Lehrer und Kirchenvater, die Geißel weist auf die erfolgreiche Bekämpfung des Arianismus. Ambrosius liegt angeblich in Mailand unter dem Hochaltar von S. Ambrogio begraben; er hatte die Basilika für die von ihm erhobenen Gebeine der Märtyrer Gervasius und Protasius bauen lassen. Als Gedenktag wird in der katholischen Kirche seit dem 11. Jahrhundert der Tag der Bischofsweihe begangen.