1903(明治36)年10月15日山梨県の農業、水上勘三郎の五男として生まれる。甲府中学校を経て、1928(昭和3)年3月東京商科大学(現一橋大学)卒業後、三井物産入社。

1938(昭和13)年12月肥料掛主任、1939(昭和14)年6月肥料一課長、1940(昭和15)年3月天津支店雑貨二課長、1942(昭和17)年5月天津支店長代理、1944(昭和19)年3月北京支店長代理、1946(昭和21)年5月帰国し、6月本店物資部長代理、1947(昭和22)年4月本店物資副部長。

戦後の1947(昭和22)年7月ＧＨＱ（連合国軍総司令部）の財閥解体の一環により三井物産は解体、解体後の第一物産代表取締役(常務)に就任。第一物産は、従業員37人でスタート、その後、朝鮮戦争後の不況の影響も最小限にとどめて、旧三井物産系企業を次々と統合していった。1957(昭和32)年5月副社長。

1959(昭和34)年2月第一物産が、三井物産(昭和28年7月室町物産が日東倉庫建物を合併、三井物産と改称)を合併、三井物産大合同として新発足した三井物産の副社長に就任。1961(昭和36)年5月社長、1970(昭和45)年会長に就任(〜1971(昭和46)年5月まで)。

その他に、1961(昭和36)年4月〜1963(昭和38)年3月経済同友会代表幹事、1972(昭和47)年10月〜1985(昭和60)年日本貿易会会長。著書に『私の商社昭和史』東洋経済新報社1987年3月発行、『貿易立国論−水上達三論集』有斐閣1988年1月発行。

1989(平成元)年6月16日逝去。