住友の創業者・住友政友は1585（天正13）年、越前の丸岡（現・福井県）の武家に生まれたと伝えられる。のちに京都に書林と薬舗を開設し、住友の歴史が始まる。僧侶でもあった政友は晩年に商人の心得を説いた『文殊院旨意書』を残した。
住友政友とともに今日の住友の礎を築いたのが蘇我理右衛門である。理右衛門は、大坂で銅吹き（銅精錬）と銅細工の技術習得に励み、1590年に京都に「泉屋」を開業。外国からの知見を得て、「南蛮吹き」という銅精錬技術を確立した。
住友の事業は銅鉱山、精錬業と鉱工業、金融を中心に成長・発展。「自利利他公私一如」「企画の遠大性」という社会貢献・進取の精神のもと、多岐の分野に関わり、日本を代表する企業グループを形成した。
『文殊院旨意書（もんじゅいんしいがき）』は住友の事業精神の原点である。冒頭には、「商事は言うに及ばず候えども、万事精に入れらるべく候（商売については言うまでもなく、全てのことについて『心』を込めて励むように）」と記されており、あらゆる状況に当てはまる「人としての心構え」が説かれている。
日本の銅産業の発展を背景に住友は銅貿易から銅山経営へと進出。1690年、伊予（現在の愛媛県）の別子山村に良好な鉱脈があることを確認した住友は、翌1691年より採掘を開始。以来、200年近く江戸時代を通じて、別子銅山は日本、あるいは世界でも有数の銅鉱山としてその名を天下に轟かせてきた。
住友商事のルーツは、1919年12月に住友が中心となって設立した「大阪北港」に遡る。この会社は、大阪港の発展と同地区一帯の開発を目的として設立され、大阪北港地帯の造成と隣接地域の開発、不動産経営を行った。
1945年9月、財閥解体の危機に臨み、住友本社の事業転換策の一つとして、大阪北港を母体に住友ビルデイングと合併した「住友土地工務」に商事部門を開設することが決定。同年1945年11月に社名は「日本建設産業」へと改名され、同時に定款の事業目的に「商事」の一項が追加された。
戦後の廃墟の中で創設された商事部門の初期は苦労の連続であった。この間、商事部門を主宰し、1947年に社長に就任した田路舜哉は、「熱心な素人は玄人に優る」と社員に声を掛け、「情熱を持って取り組めば、最後発の商社であっても必ず他社に追いつくことができる」と励まし続けた。
1956年、田路社長の意を継いで社長となった津田久。1966年5月、業界3位突入に向けたスローガン「業界ビッグスリー」を掲げ、取引拡大や営業体制の強化により、1970年までの在任10年間で売上高を534億円から4,964億円へ。業界順位を11位から6位に躍進させた。
1952年6月。日本建設産業は、社名を「住友商事」に改称し、財閥解体後使用を禁じられていた「住友」の商号がここに復活した。この商号変更により住友商事は文字通り住友グループの総合商社として躍進のスタートを切った。
1965年1月、当時社長の津田久により、住友の事業精神の根幹をなす「営業の要旨」が揮毫され、英訳も併記された。現在も住友商事グループで働く人々の営業活動の原点とされている。
国内の流通機能の拡充と販売力強化を狙い、スーパーマーケット事業へ進出。1963年に㈱京浜商会 (サミットの前身) が食品スーパー1号店を出店。地域に寄り添ったサービスを心掛け、首都圏有数の食品スーパーとして成長している。
1950年代、鋼管の輸出を開始。90年代にはメジャーとの長期契約をサプライチェーンマネジメント（SCM）に発展させた。
1950年代、船舶輸出事業を開始した後、船舶トレード事業や長期傭船ビジネスにも進出。近年は保有船ビジネスも展開している。
1960年代にオフィスビル事業を手掛け、以後、マンション事業、商業施設事業や大型複合施設事業に展開。
1960年代、農薬の輸出を開始。その後、輸出先各国での卸売業に進出し、近年では農業資材直販事業を推進している。
1960年代、海外大型発電所・送変電設備建設を受注。以降受注を拡大し、発電施設のオーナーとして売電するIPP事業に参入。現在は再生可能エネルギー事業にも注力している。
1962年には、当時西日本最大の「新住友ビル」に当社を含む住友連系11社が入居。70年には、東京・竹橋の「新住友商事ビル」竣工と同時に、東京支社を東京本社に改称し、大阪本社との2本社体制に移行した。
1969年12月24日、当社の母体である大阪北港が設立されてから50周年を迎え、新住友ビルの大会議室で記念式典が開催された。社長の津田久は、住友の先人たちへの感謝を述べるとともに、全役職員に対して次の50年に向けた決意を表明した。
1970年代以降、顧客の海外進出に伴い、スチールサービスセンター事業の規模が拡大。アジア地域を中心に、ジャストインタイムでの鋼材加工・供給へ。
柴山幸雄の社長在任期間は、1971年8月のドルショック、1972年の列島改造ブーム、1973年の第一次石油危機など、国内外経済の大きな転換期と重なった。こうした中、「最も重要なことは全役職員のエネルギーと能力を十分生かしきることだ」と表明、人事諸制度全般を見直し、総合化・体系化を図った。
1977年に就任した社長の植村光雄は、従来の目標「ビッグスリー」に収益力や自己資本力などの総合評価「ベストワン」を加え、「ビッグスリー・アンド・ベストワン」の新ビジョンを掲げた。
"不確実・不透明の時代"といわれる80年代に当社が飛躍するためには、柔軟な思考と新鮮な発想が肝要と考え、創立60周年記念にちなみ、「オール重点主義」「全力投球」という２つのコンセプトを盛り込んだスローガンを社内公募。1,580点に及ぶ作品の中から､Open Eyes on All（すべてに眼を開こう）を選定しました。
1990年、秋山富一は社長に就任し、伊藤前社長が打ち出した「総合事業会社」ビジョンの実現を目指し、アクションプランの立案と実行に着手。事業投資の促進、総合力・営業力の強化に向けた組織・制度の改革を進めた。
1980年代、世界同時不況と原油価格の急落に加え、85年9月のプラザ合意後の円高が重なり、当社の営業利益が激減。1988年、当時社長の伊藤正は抜本的な収益構造の転換を目指し、商事活動と事業活動を収益の二本柱とする「総合事業会社」構想を打ち出した。
当社は、1952年6月に社名を住友商事に改称し、英文呼称をSumitomo Shoji Kaisha, LTD．とした。しかし貿易取引拡大のためには、貿易商社と分かるような英文社名に改称することが懸案であり、1978年7月、ついにSumitomo Corporationに改称した。
1988年9月、社内公募で寄せられた2,000点以上の提案の中から選ばれ、21世紀の企業ビジョン「総合事業会社」構想の実現に向けて全社一丸で総力を結集する合言葉となった。
当時社長の秋山富一は、グローバル連結経営の強化に向けて、新スローガン「Global Mind, Global Reach」を掲げ、住友商事グループが有する総合力の発揮と各地のナショナルスタッフの育成・登用を推進。海外間取引や現地主導型ビジネスを強化した。
1980年代、電子部品専門商社としてシンガポールにスミトロニクスを設立。現在では、アジア・北米にてOA機器、家電、自動車向け電子機器製造受託事業（EMS）を展開している。
1980年代、インドネシアで第一号の工業団地事業を開始。以降5カ国で7つの工業団地を展開している。（2019年8月時点）
建設機械の輸出・ファイナンスに加えて、海外での卸売・小売事業、さらにレンタル事業にも進出。現在は世界十数カ国にて事業を展開している。
1980年代には海外での販売・流通事業にも進出。その後、金融、リース、部品や完成車の製造など川上から川下までのバリューチェーン化に向け事業を拡大している。
1990年代、ジュピターテレコム（J:COM）を設立。ケーブルテレビ事業をはじめとしたさまざまな事業を展開。他商社は通信衛星を軸に展開したが、当社はメディア事業を中心とした川下の分野に注力した。
1990年代、調剤併設型のドラッグストア事業の先駆けとして、トモズを設立。現在は台湾にも進出している。
1996年6月に社長に就任した宮原賢次は、銅地金不正取引事件の克服に向け、当社グループ固有の「経営理念」「行動指針」を新たに制定したほか、他社に先駆けて新たな経営指標「リスク・リターン」を導入した。
1996年、住友商事を揺るがす「銅地金不正取引事件」が発覚し、総額3,000億円を超える損失を被った。再発防止に向けた社内管理体制を整備するなど、事件発覚から最終解決までに約10年を要した。
1990年代以降、インドネシアでの銅鉱山へ日本側当社主導で経営参画、その経験を生かし、サンクリストバル鉱山などその他の非鉄金属鉱山経営への礎を築く。
2001年6月に社長就任した岡素之は、2年ごとに定期目標を掲げた中期経営計画を策定・実行。重要な経営戦略は、現場に浸透して初めて動き出すという信念を持ち、積極的に現場に赴き、「戦略の現場化」と「現場の戦略化」を目指した。
1996年8月、X、Y、Z、Wの4つのオフィス棟、商業施設、ホール、住宅等からなる晴海アイランドトリトンスクエア建設工事が本格化し、2001年4月にオープン。本社機能を東京に一元化するなど組織改編が実施された後、同年5月に本社を晴海に移転した。
2007年6月に社長就任した加藤進は、グローバル連結経営を深化させるべく、海外の事業会社や地域組織での優秀な人材の確保・育成・活躍を促した。さらに、12年4月には東京・銀座に「グローバル人材開発センター」を新設し、国や職場、世代を超えた交流ができる場を作った。
2012年6月に社長就任した中村邦晴は、「創立100周年（2019年度）に向けて目指す姿」を策定。さらに次の50年、100年へと持続的な成長を見据えたスローガンとして"Be the Best, Be the One（BBBO）"を公表した。
2011年10月、住商情報システム（SCS）とCSKが合併し、SCSKが発足。現在では、当社グループのデジタルトランスフォーメーション（DX）を共同で推進している。
2014年9月、ミャンマーにおける通信事業に参画。周辺付加価値サービス事業の拡大、アジア内他地域への横展開を図る。
2017年2月、欧米州で青果事業を広く展開するFyffes社を買収。青果事業のポートフォリオを拡大している。
2011年3月11日の震災を受け、当社は救援物資の確保・運搬や義援金などの支援をする一方、被災者の難に思いを寄せ、長く支援を続ける集団でありたいと、"息の長い復興支援"という方針を打ち出し、被災地での人道支援と産業復興支援の両面から、現在も支援活動を続けている。
2017年には、広く社会に貢献する企業でありたいという当社の経営理念に基づき、「社会とともに持続的に成長するための6つのマテリアリティ（重要課題）」を特定。サステナビリティ経営を推進している。
2018年4月、兵頭誠之が社長に就任。「新たな価値創造への飽くなき挑戦」をテーマとする成長戦略「中期経営計画2020」を発表した。
2018年9月、千代田区大手町に本社を移転。利便性をより高くするとともに、社員の働き方そのものを根本的に見直すことで、効率的で創造性の高いオフィス環境を整えた。
2019年5月、100周年の節目にコーポレートメッセージ「Enriching lives and the world」を策定。22世紀プロジェクトが立ち上がり、グローバルアンバサダーを中心に2年間の議論の末にたどりついた、情熱と決意を込めたメッセージとなった。
2019年12月24日、住友商事グループは創立100周年を迎えた。
