羽柴秀吉率军与织田信雄和德川家康开战，史称“小牧·长久手之战”。
此战之初拥有兵力优势的羽柴军直扑德川领地，双方对峙于小牧山。但是德川家康防守严密，丰臣秀吉始终无法突破德川家康的防御。
为了打破僵局，丰臣秀吉派大将池田恒兴等人率部绕路偷袭德川家康领地三河国。
但途中池田恒兴等人却遭到德川军伏击，池田恒兴以及有“鬼武藏”之称的大将森长可战死。
在战况失利的情况下丰臣秀吉通过收买等外交手段使织田信雄主动退出和德川家康的联盟，德川家康被迫退兵。
最终德川军与羽柴军议和，德川家康把次子德川秀康送到丰臣秀吉身边作为人质。
小牧·长久手之战使得丰臣秀吉平定关东地区，担任征夷大将军的权力构想无法实现。
于是在天正十二年（1584年）十一月他升任从三位·权大纳言，踏上公卿之路。同年7月11日，丰臣秀吉趁当时京都摄政之间围绕关白职位发生严重分歧，丰臣秀吉趁机成为前任关白近卫前久的犹子（如同儿子，相当于义子），然后就任了关白（丞相）一职。
天正十四年（1586年）9月9日，丰臣秀吉获得正亲町天皇赐予的新姓氏“丰臣”，在得到“丰臣”姓氏，他才正式改名为丰臣秀吉。
丰臣秀吉又将妹妹朝日姬嫁与德川家康作为正室，并将自己的母亲大政所送回德川家康身边成为人质，德川家康从此成为丰臣秀吉的臣属。
同年，九州大名大友宗麟几乎被岛津氏灭亡，于是向丰臣秀吉请求支援。
天正十五年（1587年），丰臣秀吉发动九州征伐，派遣丰臣秀长率领大军攻击岛津氏。击败岛津氏后，岛津氏被分配到萨摩和大隅两国。
丰臣秀吉开始实行“刀狩令”，加强了兵农分离的政策。从天正十七年（1589年）到天正十八年（1590年），丰臣秀吉又发动小田原之战，灭后北条氏，基本上统一日本。
天正十九年（1591年），丰臣秀吉将关白之位让给外甥丰臣秀次，自称太阁（前关白的尊称）。
同年，丰臣秀吉命令茶人千利休切腹自尽，原因不明。传说是千利休在大德寺山门上捐献了一尊自己的佛像，丰臣秀吉从佛像下走过认为千利休僭越。
从此丰臣秀吉脾气开始变得越发暴躁。
后来浅井茶茶生了丰臣秀赖，于是丰臣秀吉迫使丰臣秀次自杀，最终导致武官派和文官派决裂。
庆长三年（1598年）8月18日，丰臣秀吉因病逝世于伏见城。
丰臣秀吉死前，设立五大老，辅佐幼子丰臣秀赖。
其根本目的是要以合议制度来抑制德川家康的势力，以确保丰臣政权可以代代相传。
丰臣秀吉死后不久，唯一能够制衡德川家康的五大老之一前田利家也过世了。