北平大學生許文強在學潮中不僅失去了愛人，還失去了自由。三年的監牢生活之後，他決心“洗心革面”，為自己的前程“奮鬥”。他隻身來到繁榮的花花都市上海，初來乍到的他舉目無親，彷徨中結識了窮苦的賣梨小販丁力，兩人結為好友。
許文強找到老同學、上海名交際花方豔雲。在方的幫助下，許文強開始進入上海的黑幫，並憑藉堅毅果敢的作風嶄露頭角，終於在一次叛亂事件中成為一方之主。有點成就的許文強不忘舊好，邀丁力加盟他的公司，成為自己的得力助手。上海法租界大亨馮敬堯看中許文強的才幹，想將之收為己用，但許文強更想自己打開一片天地。馮敬堯雖心有不甘，但仍然與許、丁過從甚密，成為合作的親密搭檔。馮敬堯之女程程從北平讀書歸來，在火車站被殺手綁為人質，許文強機智地化解了危機，並贏得美人的一片芳心。馮程程念念不忘許文強的風采，主動與文強交往。但文強一心事業，不想談兒女私情，兩人關係若即若離。
在一次幫派糾紛中，不夠冷靜的丁力襲殺對方頭腦金某，引起一直對許文強懷有戒心的諸幫派圍攻。許文強、丁力走投無路，只好投奔馮敬堯。馮敬堯大喜，以兩人為左右手。這樣，程程更是得到經常接近文強的機會。終於，許文強明白了她的一片心意，而且發現自己已墮入情網。兩人終於互表心跡，並且準備不日結婚。
在這緊要關頭，許文強發現馮敬堯勾結日本間諜山口香子，向其出售情報，更獲悉山口將於當晚襲擊愛國團體精武門。許文強思之再三，決定將情況通知程程的前度男友、愛國青年陳翰林，並請他轉告精武門，山口等人藏武器地點。
當晚，許文強被馮敬堯派去與山口香子接洽，正逢已盜走武器的精武門會眾伏擊山口香子，混戰中許文強擊斃了山口。
得知許文強的背叛，馮敬堯大為震怒，他為了向日本方面和警務廳交待，派人到處搜索許文強。許文強藏身于丁力的窮朋友長貴家中，但還是給受命前來捉他的丁力找到。丁力不願背叛馮敬堯，但也不願害文強，他斬下許文強一隻尾指向馮交待，同時給文強一張離開上海的車票。在陳翰林的幫助下，望著一直癡癡等他的程程，許文強狼狽逃離上海。
火車來到香港，落難的許文強結識了成叔一家。在同鄉的介紹下，許文強在香港謀了一份文職，開始平凡的生活。又見成叔的孫女阿娣傾心於他，於是與阿娣結婚，打算忘掉從前，重新開始。
馮敬堯卻不放過他，他接到線索說許文強在香港出現，於是派了一名殺手到香港。同時程程也風聞文強在香港，隻身尋至。在陳翰林的勸說下，許文強見了程程，向她說明自己的現在，程程絕望而去。