陈光甫用他锐利的目光，发现了银行之林中尚闲置着的这片隙地。他认为，先集资五万至十万元，银行即可以开业。开业之后，可以通过吸收普通百姓的小额存款来逐步累积资本。只要真正提供优良的服务，就可以逐步增加存款，也可以逐步增加放款。集腋成裘，蚂蚁雄兵。到那时，资本的积聚和运用这两大难题，就可以迎刃而解。陈光甫的独到见解和精辟分析，让张嘉璈和李铭深深佩服，马上就帮助他着手筹备。钱少也是钱，而陈光甫一点资本都没有。经李铭介绍，他说服一个叫庄得之的买办，拿出七万银元，作为建行资本。庄得之出资最多，担当董事长，而陈光甫在庄的帮助下才勉强凑够了五千银元资本，出任总经理。1915年6月，上海商业储蓄银行在宁波路的一幢石库门房子里开张了，资本不足十万元，职工只有七八个人。开业那天，陈光甫既没办酒席，也没有请钱业董事，唯恐被同行耻笑，一家小小银行就这样静悄悄地诞生了。1931年6月，上海银行的新办公大厦落成。嘉宾盈门，高朋满座，与16年前悄然诞生时的落寞，天差地别，恍若隔世。
然而厄运猝不及防的降临了。上海银行新办公大厦落成还不到百天九？一八事变便爆发了，一些觊觎上海银行的有心人，开始下手了。“汉口损失数百万元，债券损失二千余万元，上海银行马上要破产了。”这样的谣言不胫而走，客户们大为恐慌，唯恐自己辛辛苦苦积蓄的一点资金受到损失，争相涌向上海银行，提取存款。9月22日大清早，上海银行门前，人头攒动，拥挤不堪，平日所备的准备金被大量提走。一开始，陈光甫没太在意，对挤提风沉着应战，指望谣言不攻自破。不料，三天过去，挤提不仅没有停止，反而愈演愈烈，提走的存款已达总库存的一半。平素稳健老练的陈光甫，此时心中也没了底。迫不得已，陈光甫只好四处求助。他首先想到了自己的至交好友、时任上海银行总经理的张嘉璈。接到电话后，张嘉璈立即命令中行各分行尽全力支持上海银行各分支机构，并允许上行以新办公大楼作抵押，贷借八十万元，用以应付提存。为救兄弟，张嘉璈真是豁出去了。他下令特别开仓，用现银声援。张嘉璈又命人从仁记路的上海中国银行，把一箱箱的现金运往宁波路的上海银行，摆在那些忙于提存者的眼前。一箱箱现金川流不息地运来，上海商业储蓄银行则把大量现洋故意堆放在营业柜台上和楼道内的显眼之处，堆积得像小小的银山，这一情景驱走了提存者心头的疑虑。挤提风波便这样平息了。
恩情
身为海归的陈光甫，一向很少与本土帮会交往，当时上海帮会最有影响力的人物就是杜月笙，二人之前素未谋面。1931年，杜月笙的得力助手苏嘉善病故，临走前他请杜月笙照顾他中学即将毕业的大儿子在银行界寻个差事，杜月笙自然一诺无辞。可是当苏嘉善说明想让儿子进上海商业储蓄银行时，杜月笙不禁心里打起鼓来。但是他不能不让苏嘉善安心，只能故作轻松地回应：“闲话一句，我来办。”杜月笙的顾虑不是没有道理，这上海商业银行的老板陈光甫，名列上海滩四大银行家之一，排名犹在钱新之之上，是金融界的顶级大腕。他的银行有个硬规矩，任用人员，一律公开招考，不买任何人的面子。这样的事情有过几起后，陈光甫的用人制度在银行界就无人不知，连与他素无来往的杜月笙都有所耳闻。苏嘉善病逝，杜月笙替他办了很排场的后事。出殡那天，从顶马到灵柩，送丧行列长达数百米。杜月笙那天身体有恙，但他坚持亲自执绋，一直送到终点，而终于忍不住泪流满面。不久，苏公子毕业了。杜月笙很为难。一方面他绝对要兑现当初的承诺，一方面又实在想不出好的办法。他倒是有自信陈光甫一定会收下这位小朋友，怕只怕收得不够痛快，如果真是这样，那最后事情办得再好，别人也会说“原来杜先生办事也有不漂亮的时候”，那这个面子丢得就大了。实在没有办法，只好找杨管北来商量。杨管北是杜月笙新的智囊，未来将是苏嘉善的接班人，杨管北和陈光甫是同乡，并且私交不错，这样，就正好由他去做说客。真是不辱使命，没想到陈光甫非常爽快，给足了杜月笙面子，破例不经考试就录用了小苏，令杜月笙心存感激。
1931年9月，陈光甫遭遇了一场挤提风波。走投无路之下，陈光甫想到了杜月笙。于是托杨管北出面求援。“我想除了杜先生，怕是再没有人帮得上忙了。”杜月笙正愁不知道怎么还陈光甫的人情呢，况且这也是在金融界扬名立万的绝好机会，如何肯轻易放过？当即叫来万墨林，吩咐道：“你挨个打电话，把烟赌两档上体面点的朋友，通通给我请过来。”杜月笙有一个习惯，就是从不拨打电话，他的电话，都是万墨林伺候。万墨林是个怪才，一字不识，连自己的名字都不会写，但记忆力惊人，尤其擅长记电话号码，杜月笙所有来往的几百个号码，全在他脑子里，绝不出错。很快，杜手下的人全部到齐，杜月笙开门见山：“明天九点银行开门前，各位可以凑齐多少现款？都报个数上来。”最后一个刚一报完，万墨林算出：“一共是二百万。”“很好。”杜月笙开始布置任务：“明天九点，请大家务必准时送到上海商业银行，存进去。”众人散去，杜月笙再交代万墨林打电话给国民银行，要求备好一百万现金，明早跟着自己的车走，送到商业银行去。随后又让万墨林通知相熟的工商界人士，大家明早八点到杜公馆来共商大事。
第二天早八点，客厅里熙熙攘攘，众星云集。杜月笙对大家说上海商业银行的生意正常，要求大家不信谣不传谣，提出“我们大家应该给陈光甫捧捧场”。“请各位老兄帮帮忙，从今天起，凡是上海商业银行的存户，不要再参与挤兑，最好还能再存点进去。没有开户的，现在就跟我去开个户头，把手头能调动的现款，全部存进去。”一切交代清楚，安排妥当后，杜月笙带着随从，驱车直奔商业银行，后面紧跟着两辆汽车，装的是国民银行拿来的一百万现金。
九点开门，上海商业银行门口等待取钱的储户早已排成了几条长龙。杜月笙故意让他的黑色雪佛兰开到队伍最前面停下，他的车牌号“7777”上海滩尽人皆知，人们一看杜月笙来了，只当也是来提款的。没想到杜月笙下得车来，径直往银行大门走去，后面跟着七八个随从，个个手里都提着一只沉甸甸的箱子。银行保安早已让出了一条路，待杜月笙走近，银行大门豁然打开。不一会儿，银行职员喜形于色地奔出大门，贴出大红喜报：杜先生存进一百万元。杜月笙名头实在过于响亮，这一举动瞬间就动摇了不少人的排队热情。正在此时，各种各样的小汽车从四面八方汇聚而来，土行、赌场的老板们，或亲自赶到，或差人代劳，但见一提箱一提箱、一麻袋一麻袋地直往银行里运，里面全是白花花的现大洋，碰得叮当响。工商界的代表们陆续赶到，大红喜报一张接一张地贴。天气变了，看热闹的人多了，提钱的人少了。这不明摆着的是杜先生帮忙吗？陈光甫的商业银行还有什么可担心的？一场绝大的风波，就此烟消云散，陈光甫对杜月笙，唯有至诚的感激。至此，上海银行总算摇摇晃晃地挺过了这道鬼门关。这是陈光甫一生最提心吊胆的时光。对那些伸出援手的贵人，他知恩图报，终生难忘。后来，杜月笙主办的中汇银行新建大厦落成，营业规模扩大，陈光甫立刻以“堆花”方式，将50万两白银存入，让杜白用一年，利息分文不取。
陈光甫把“服务社会”作为银行行训，处处想着如何便利顾客，并不断推出新办法，赢得顾客好感。他常常训导行员要把顾客视为“衣食父母”，敦促他们改进服务态度。有一个时期，他限制行员在柜台上吸烟，说这对顾客不礼貌。一次，他发现一个行员同储户洽谈业务时态度生硬，双方发生龃龉，便派行内专员出面将储户请到经理室，他亲自向储户耐心解释，赔礼道歉，消除误会。事后，又迅即召开行务会议，就此事举一反三，指出：“银行得一顾客，目前之利益不见大，但因一人之感情可推至千万人，则其利自大；反之，丧失一人之感情，其害亦可传播至千万人。”接着，他作出了接待顾客的具体规定，要求行员，第一须和气待人，第二办手续敏捷，第三应不嫌烦琐，不允许营业员与顾客争执之类事再发生。由于陈光甫大抓服务质量，所以上海银行的服务态度和办事效率很为人所称道，在银行界独树一帜。
富有平等思想，富有同情心是陈光甫的又一人格特点。为此，他在上海银行成立之初就要求员工们对待不同社会阶层的顾客都必须平等看待。他反复强调：“对于本行一切顾客无论何界中人或乡愚妇女，应谦恭和悦竭诚招待。”“本行以服务社会为使命，无论贫富贵贱，视同一律，必须实现平民化，为多数贫民服务，方可视为已达到目的。”1930年9月，在一次与上海银行员工的聚餐上，陈光甫再次重申：“本行所恃，既全在服务二字，则应以平等眼光，招待社会人士，不可以贫富贵贱，而昭示招待上之区别。譬如有一破衣赤足之农夫，欲与鄙人谈话，鄙人即当引至经理室，和蔼招待，遇有询问，尤当诚恳答复，全行同人均应如是。”连赤脚农夫都应该引到经理室谈话，陈光甫的平等意识也真可见一斑。为了进一步宣扬这种平等意识，陈光甫特意在上海银行中创设行员聚餐会。参加这种聚餐会的既有高层管理人员，又有银行的普通职工，还有刚进入银行尚在接受培训的学员；聚餐中间，凡参加者人人都可以自由发表意见。聚餐会上，陈光甫说道：“此种聚餐会晤，在座者，原无职务之高下，自总经理以至学生，人人俱可自由发表意见，并随意与任何人谈话，一律平等。诸君当知在职务上虽有阶级之殊，然而所谓阶级，不过表示其一种责任，实际上人人平等，诸君尽可在聚餐时，发挥平等精神。”这种聚餐会充分体现出陈光甫提倡的人人平等的精神。有一次，陈光甫到底下一家银行视察，问一个经理：“我们服务顾客时怎样做到更好？”这个经理立即答道：“不论顾客办理业务的数额是多少，不管他是一千、一百还是一块钱，我们都热情接待，这样才使我们的服务能够到位。”这个经理觉得自己答得不错，不料陈光甫却说：“你只回答对了一半，他就是一分钱不办，只要他来到你银行里面，你就要热情接待，你就要为他服务好。”
本着服务社会这一理念，陈光甫决定上海银行一元起存，方便顾客特别是普罗大众。一元起存，就是一元钱就可以开户，这在当时的金融界是个破天荒般的创举。1915年的一天，开业不久的上海银行迎来了一个特殊的客人。这个中年人拿着一张一百元的钞票，得意洋洋地要开一百个一元的账户。银行的职员热情接待了他，不厌其烦地一口气写下一百个户头。拿着存折，中年人心悦诚服地满意而归。这场恶作剧传出去后，反而让不少人很受感动，记住了这家石库门里的“小小银行”。
轶事
陈光甫的名头响亮，在上海有着重要的影响力，同时也是国共两党争取的对象。1948年12月初，陈光甫悄然去香港考察，但仍十分留意国内的形势变化，尤其是中共的经济政策。香港的英文报纸《MORNINGPOST》（《晨报》），登载了“中共及各团体”的一份宣言，说共产党取得政权后，允许私人经营事业等等。陈光甫看后，甚感安慰。因此，他决定继续住在上海，观察一段时间再说。手下人不解，陈光甫便向他们解释说：“一来搬家费事，二来共党政策不扰动做生意的人，不反对中外私人事业，不仿照俄国铁幕政策，我住上海，与香港有何不同？”
1949年1月21日，蒋介石宣告“引退”，代总统李宗仁表示，愿以中共所提八项条件为基础进行和平谈判，组织一个“上海人民和平代表团”前往北平谈判，第一个就想到陈光甫。早在北伐时，他们就相识，结交后，成为知己。一次，在武汉吃饭时，李宗仁醉醺醺的，似有重任要托付。陈赶忙挡回，半真半假地说：“将来，等老兄当了一国之元首时，无论你叫我干什么，我一定接受。”李宗仁在此时亲登陈府邀请他担任代表团成员。陈光甫审时度势，知道蒋介石已经完结，何况李宗仁呢？于是婉言谢绝，说：“大势已去，只好取消前言了，加上我的身体已不适合担任这种任务了。”可是，中共倒挺希望他参加代表团，能来北平商谈和平事宜，目的自然是借此影响他的去留。李宗仁在北平的一名代表反馈了中共对陈不来北平特别失望的信息。代表团成员之一的章士钊也对陈说，他也收到了北平的电报，共产党人渴望陈参加代表团，欢迎他来北平。
这可能是陈光甫第一次直接感受到中共的诚意，但这位亲美派不敢到北平去冒险。1949年春，上海尚未解放，中共即给上海银行以特殊待遇，委托上海商业储蓄银行等五家“为人民银行代理北平以外各大城市之汇兑业务”，并得经营外汇业务。陈光甫一方面心领神会，一方面又担心会因此触怒国民党政府，给自己带来不利，因此始终迈不开步子。他在日记中写道：“共方核准本行为国内汇兑银行之一，此事要小心，要遭人忌，国民党政府恶意误会，惟有少做，点缀而已。”陈光甫出走前夕，毛泽东曾托人送了一套《毛泽东选集》给他，陈光甫也回送了一部他收藏的清人书法册页。可惜，共产党的诚挚召唤和各项优惠政策，都没有能留住陈光甫。不久陈光甫经泰国到了香港，并于1954年定居台湾。
北洋政府总理段祺瑞的女婿奚东曙，在天津经营商号，平时出手阔绰，许多银行都想巴结这位财神爷，纷纷贷款给他。陈光甫却通过上海银行调查获知，此人暗中从事投机倒把生意，随时可能破产。于是陈光甫严令对其加以防范。不久，奚东曙携款逃亡，许多银行因巨额坏账损失惨重，而上海银行却毫发无损。
史带曾是一个夹着皮包到上海滩淘金的美国穷小子，可陈光甫派人调查后发现，到1934年，美亚保险已经“雇有西籍职员30余人，华员约200人”，且史带其人“饶有资产，信誉殊佳”。于是，陈光甫不仅贷款给史带，还购买了不少美亚公司的股票。许多年以后，史带被誉为“远东保险王”，他的美亚保险也发展成了全球保险业的巨头——友邦保险。