黒田官兵衛、諱は孝高、のちに如水は、天文15年（1546年）、黒田職隆の嫡男として播磨国の姫路に生まれる。永禄10年（1567年）頃、官兵衛は父・職隆から家督と家老職を継ぎ、小寺政職の姪にあたる櫛橋伊定の娘の光（てる）を正室に迎え、姫路城代となった。天正3年（1575年）、信長の才能を高く評価していた官兵衛は、主君・小寺政職に長篠の戦いで武田勝頼を破っていた織田氏への臣従を進言し、羽柴秀吉の取次により岐阜城で信長に謁見。天正5年（1577年）小早川隆景の水軍の将、浦宗勝を毛利と同盟する三木通秋の所領である英賀に上陸させ5,000の兵で播磨に攻め込ませるが、官兵衛は500の兵で毛利・三木軍を退ける（英賀合戦）。この戦いの後、長男の松寿丸（後の黒田長政）を人質として信長の元へ送る。天正6年（1578年）孝高は荒木村重を翻意させるため交渉に有岡城に乗り込んだが、成功せず幽閉される。ここでの生活は、のちの官兵衛の人生を大きく変えるほど過酷なものであった。1年後、有岡城は落城し、孝高は家臣の栗山利安によって救出された。官兵衛は織田家臣として秀吉の与力となり、名字に黒田を用いたのはこれ以降と考えられている。天正10年（1582年）、毛利氏の部将・清水宗治が守る備中高松城攻略に際し、秀吉は巨大な堤防を築いて水攻めにしたが上手く水をせき止められなかった。これに対し、孝高は船に土嚢を積んで底に穴を開けて沈めるように献策し成功させたと言われる。

高松城攻めの最中、京都で明智光秀による本能寺の変が起こり、信長が横死した。変を知った官兵衛は秀吉に対して、毛利輝元と和睦して光秀を討つように献策し、中国大返しを成功させたと言われる。山崎の戦いでは天王山を抑え、その裾野から射撃を仕掛ける中川清秀を追い落とそうとする明智軍と激しい戦闘を繰り広げた。
天正11年（1583年）、大坂城の縄張りに当たる。秀吉と柴田勝家との賤ヶ岳の戦いでは、佐久間盛政の猛攻に遭って中川清秀の部隊が壊滅し、続いてその攻撃を受けることとなったが、奮戦し守り抜いた。
天正12年（1584年）、小牧・長久手の戦いの当初においては、賤ヶ岳の戦い以前より毛利氏に対し、宇喜多氏との国境線の交渉に当っていたが確定し、実質的に秀吉配下に加える。留守居役を務めていた黒田長政らは岸和田の戦いで根来盛重、鈴木重意、長宗我部元親らの兵を破った。7月、播磨国宍粟郡（山崎）篠の丸城を与えられ5万石の大名となっている。
天正13年（1585年）の四国攻めには、讃岐国から攻め込んだ宇喜多秀家の軍勢の軍監として加わり、諸城を陥落させ、敵将・長宗我部元親の策略を打ち破ったと言われる。阿波国の岩倉城が攻略されたところで長宗我部軍は撤退、降伏した。
天正14年（1586年）、従五位下・勘解由次官に叙任される。10月、大友宗麟の要請による九州征伐では、毛利氏などを含む軍勢の軍監として九州に上陸。宇留津城、香春岳城などを陥落させる。翌年3月に豊臣秀長の日向方面陣営の先鋒を務めて南下し、島津義久の軍勢と戦い、戦勝に貢献している（根白坂の戦い）。この時に、のちに黒田の領地となる福岡を研究したと言われる。

秀吉の九州平定後、官兵衛は豊前国を与えられた。
天正11年頃に、孝高は高山右近や蒲生氏郷らの勧めによってキリスト教の洗礼を受けた。小西行長に影響され、明石城の高山右近や蒲生氏郷らに勧められ、天正13年に入信し、三木城の前野長康と共に、播磨における布教の入り口となっていたとされるが、天正15年（1587年）に秀吉がバテレン追放令を出し、右近らがこれに反抗して改易される中、官兵衛は率先して令に従ったと言われる。しかし、真実はわからない。
天正17年（1589年）、家督を嫡男・長政に譲って隠居の身となり、「如水軒」と号した。家督を譲った後も、官兵衛は秀吉の側近として仕えた。天正18年（1590年）の小田原征伐では小田原城に入って北条氏政・氏直父子を説得し、無血開城させる功績を立てた。この時、北条氏直から名刀「日光一文字」などの家宝を与えられている。

文禄元年（1592年）、秀吉の朝鮮出兵の文禄の役では、総大将・宇喜多秀家の軍監として参加したが、小西行長など諸将の暴走で思ったような采配を執れず病を理由に帰国。
慶長2年（1597年）、慶長の役では総大将・小早川秀秋の軍監として釜山に滞陣。第一次蔚山城の戦いにおいて、加藤清正の救援に向かった長政が留守にした梁山城が8,000の軍勢に襲われた際、救援に駆けつけ1,500の兵で退ける。両城にて日本軍は大勝を収めた。

慶長3年（1598年）8月、豊臣秀吉が死去。慶長5年（1600年）徳川家康が会津の上杉景勝討伐を諸大名に命じる。6月6日、長政は家康の養女（保科氏女・栄姫）と再婚し、6月16日に家康と共に出陣。7月17日（8月25日）石田三成らが家康の非を鳴らして挙兵し（西軍）、関ヶ原の戦いが起こった。長政は豊臣恩顧の大名を多く家康方に引き込み、後藤基次ら黒田軍の主力を率いて、関ヶ原本戦で武功を挙げた。
中津に帰国していた官兵衛も、家康方に対し、前以って味方として中津留守居を務める密約を結び、行動。
石田三成の挙兵の知らせを用意させていた早舟から受け取った官兵衛は、中津城の金蔵を開いて領内の百姓などに支度金を与え、九州、中国、四国からも聞き及んで集まった9,000人ほどの速成軍を作り上げた。9月9日（10月15日）、再興を目指して西軍に与した大友義統が毛利輝元の支援を受けて豊後に攻め込み、東軍の細川忠興の飛び地（本拠地は丹後国宮津）である杵築城を包囲攻撃した。城将・松井康之と有吉立行は官兵衛に援軍を要請、同日、官兵衛はこれに応じ、1万人と公称した兵力を率いて出陣した。それまでは三成の誘いに対し、西軍に組する条件として九州7ヶ国の恩賞を求め、東へ向かう九州の西軍の部隊を素通りさせ、準備期間を稼いでいたという。

関ヶ原の合戦の後、長政が先に勲功として家康から筑前国名島（福岡）37万石（再検地後の申請は52万3,000石）への加増移封となった。翌年、官兵衛にも、これとは別に上方での加増が提示されるが辞退し、その後は中央の政治に関与することなく隠居生活を送った。晩年は再建に努めた太宰府天満宮内に草庵を構えている。慶長9年3月20日（1604年4月19日）、京都伏見藩邸にて死去。59歳。