一九二六年二三月间，李济与地质调查所的袁复礼先生对晋南汾河流域进行了调查，在夏县西阴村发现了大片布满史前陶片的遗址。
之后，他返京与佛利尔美术馆、清华大学商定合作发掘事宜，于当年十月再赴西阴村。 在测量了当地的地势后，李济决定对之进行“披葱式”的挖掘。挖掘时间由十月十五日起直到十二月初。具体分工是：李济主持发掘工作，袁复礼负责调查。前后两个月的发掘，李济等人获得了一大批石器、骨器、陶片和贝壳，整整装了九辆大车。 从夏县启程。走了九天，这个浩浩荡荡的车队才到达山西第一条出省铁路——正太铁路的榆次站。 一路上，这个车队引起了不少谣言。当时的省政府有点不放心，派人在榆次县关口检查。 检查员开箱一看，“第一箱是破碎陶片，第二箱是破碎陶片，第三箱，还是破碎陶片！”他们有点不耐烦地问：
“你们化（花）了这些钱，运这一堆货物到北平，难道说都是这些破砖烂瓦吗？”李济等人答道：“都是一样的。请你们每一箱都打开看就是了！”
这些检查员听了，虽说有点信不过，却心灰意懒地摇摇头，不再看了。在他们眼里，李济这些人做的事“有点荒唐、滑稽，近乎疯癫，不可以常识理论”。于是他们将信将疑地放行了。 这个真实的故事，是李济先生于一九五六年在文章中回忆的。 在百年前的那个年代，中国考古学的开拓者所做的事，被地方政府盯着，为普通百姓所不解。他们的确想不到，李济就是用这些“破砖烂瓦”开启了中国考古学的新篇章，启动了一场惊心动魄又曲折感人的中国古史重建之旅！ 这批出土文物运回北平后，曾在清华学校进行了一次公开展览，李济亲自担任讲解员。李济对这批出土文物作了一番科学考证，判断为公元前三千二百年至公元前二千九百年间的新石器时代的器物。不久，他将此次考古研究成果，写成《西阴村史前遗存》，于一九二七年发表。 李济曾兴奋地告诉国人，这次发掘，“我们最有趣的发现是一个半割的、丝似的半个茧壳。用显微镜考察，这茧壳已经腐坏了一半，但是仍旧发光；那割的部分极平直。李济认为，夏县丝织业的历史非常悠久，这个蚕茧可以把它当作一种“文化的遗留（Survival in Culture）”看待。他认为，虽然通过半个蚕茧，不能十分肯定地推断中国新石器时代蚕业的存在，但却可以论定，“这个发现替我们辟了一条关于在中国北部史前研究的新途径。中国有历史就有关于蚕业的记载；它是中国文化的一个指数，较之安特生所说的陶鼎与陶鬲尤为可靠”。 后来经专家鉴定，那半个蚕茧确实是一种家蚕的茧，因此证明了中国人在史前新石器时代已懂得养蚕。 现在，这个茧壳放在台北故宫博物院恒温恒湿的库里，平时都以仿制品替代展出，只是一九九五年为纪念李济百年诞辰时，才展出过八天，以示纪念。这为后话。 西阴村的考古发掘，是在内忧外患年代第一次由中国人自己主持的科学考古发掘，具有很强的目的性和严谨的学术色彩；而李济的考古报告完全突破了传统的金石学，开创了中国人自己用科学方法研究考古学的道路。西阴村发掘成为田野发掘研究工作的一座里程碑，并使李济成为“中国现代考古学之父”。由李济创造的“三点记载法”、“层叠法”、“探沟探坑法”等田野科学考古工作方法，奠定了现代科学考古的基石，一直被考古学界沿用。 现在，我们回过头来再说第一次殷墟发掘。 第一次殷墟发掘结束，撤出小屯时，有高度责任心的董作宾，很担心发掘成功的消息传出后，引发新的盗掘狂潮。即致函省政府和安阳县政府，说明暂停发掘，请注意保护，严禁私人挖掘。又通过村长告知村民，偶然得到甲骨，不可卖给文物贩子，可通知安阳中学、彰德高中校长代为收购。 一九二八年的十一月，董作宾等人带着第一次发掘的收获，兴冲冲地返回开封，与刚刚上任的考古组主任李济会合。、 没想到，李济虽然也对大量出土甲骨文表示惊喜，同时却非常不客气地批评了第一次发掘殷墟的挖掘方式。 李济在后来的著作中曾做过这样的评价：第一次试挖“仍袭古董商陈法。就地掘坑，直贯而下；唯捡有字甲骨保留，其余皆视为副品。虽绘地图，亦太简略，且地层绪乱，一无记载。”
傅斯年对第一次试挖的过程和结果也不是完全满意，李济后来回忆，傅斯年说：“我等此次工作的目的，求文字（甲骨文）其次，求得地下知识其上也。”
只是寒冬已至，第一次试挖有不尽如人意之处也只能就此终止，静待冬去春来再进行第二次发掘。刚刚起步的中国考古学，只能把这些不尽如人意之处当做学费。 但是，董作宾这次以甲骨为主要目标、带有探宝性质的挖掘，仍然具有重大意义，它不仅结束了古玩爱好者“安乐椅上研究”的博家时代，更为后面的真正意义上的考古挖掘开启了道路。 李济和董作宾的第一次碰面，就产生了一个否定的结论，似乎并不愉快。而实际上，这两位学者都有足够宽阔的胸襟，业务、学术的探讨、争论开诚布公，毫不影响个人关系。 董作宾对李济的批评也虚心接受，两人还达成了一份“君子协定”：旧历新年后到安阳再联手搞一次试掘，董作宾研究其中的甲骨文，李济负责所有其他的出土文物。 一九二八年十二月，李济正式出任历史语言研究所考古组主任，从此殷墟考古发掘迎来了“掌门人”。 与此同时，傅斯年做出调整，把发掘组更名为“国立中央研究院河南殷墟发掘团”。 一九二九年春，李济主持的第二次殷墟发掘开始了。 正如发掘组新的名字一样，这次发掘明确把殷墟作为发掘对象，而不是单纯地挖掘甲骨，考古方式和工作原则发生了质的变化。 发掘之初，李济就提出考古不能有挖宝思想，“一切的原始材料，只要能体现人类的活动，哪怕是残陶碎骨，只要是经过有计划的科学方式采集得来的，就能显现真正的学术价值”。 这次挖掘中，李济提出了“科学”的考古概念：“科学的考古必须具有五个条件——必须有问题、必须有方法、记载必须精确、必须无成见、必须有耐心。”
在工作中，李济聘用了专业的测量员对遗址进行了测绘，以便更准确地描绘出以小屯为中心的详细地图。 他又在遗址内的若干地点以挖深沟的方法进行挖掘，主要的目的是要清楚地了解地层下地表的情况，以便找到甲骨堆积的特征。 此外，他还系统地记录和登记了每件遗物的确切出土地点、时间、周围的堆积情况和层次等等。 每个参加挖掘的工作人员也坚持写关于个人观察以及田野工作中发生情况的“工作日记”。 同时，李济给大家立下规矩，“一切出土物全属国家财产，考古队同人自己决不购买、收藏古物”，这成为所有中国考古人心中最神圣的戒律、底线。“考古不收藏，收藏不考古”至今仍是衡量一名考古人的最基本的标尺。 第二次发掘，从一九二九年三月七日至五月十日日，分村北、村南、村中三个发掘点，共开三米长一点五米宽的探坑四十三个，总面积二百八十平方米。这发掘出甲骨文740片、还有大量陶器、兽器、陶范、铜器及石器。同时对村南、村中和村北的麦地、棉田进行了地下情况调查。 挖掘结束后，他们把大量的出土物装箱包好，运到北京。 自一八九九年甲骨发现以来，疯狂盗掘已让殷墟千疮百孔，但谁也不会留心、收集与甲骨一起出土的“残陶碎骨”，更不要说那些挖出去的不同颜色的土层。只有受过人类学、考古学专门训练的学者，才会把注意力集中到这些没有经济价值的“边角料”上。 李济撰写的第一篇殷墟考古的论文《小屯地面下情形分析初步》，关注的就是土。论文首次提到了“地层学”的观点。他根据考古过程中的发现和记录，认为殷墟的地下堆积分为三层：最深层是殷商时期的文化堆积；覆盖其上的是分散众多的隋唐墓葬；最上面的是现代堆积层。 殷墟第二次发掘中，李济与董作宾不同，不仅要寻找甲骨，更要搜集所有的其他文物；不仅要发掘文物，更希望考察地层的分布和特点，找到历史演变的潜在线索。 几年前在西阴村摸索出的“三点记载法”和“层叠记载法”，有了新的用武之地。 自此，殷墟发掘逐渐形成了由点到线到面再到整体的方法，并为中国各地遗址考察树立了典范。 李济也非常强调测绘的重要性，于是，地质调查所派出王庆昌和裴文中来到安阳。两个年轻人都毕业于北京大学地质系，这次绘制的地图比第一次发掘时进步了许多。 王庆昌还首创性地用线条来表示深度，为日后殷墟的测绘提供了参照。 二十五岁的裴文中一向成绩不佳，只能给王庆昌做助手。不过，离开安阳几个月后，他将在周口店发掘出第一个“北京人”的头骨，从此扬名世界。 第一次发掘时，董作宾发现了人类的头骨，但他觉得考古队冒犯了死者，于是把它们重新掩埋起来。 在李济眼中，这些头骨却有着特殊的意义。在哈佛大学读书时，他的老师虎藤（E.A.Hooton）就要求学生必须深入了解人类骨骼的特性，能够根据碎骨片做出判断。一九二一年夏天，李济曾帮助虎藤清理过五百个埃及人头骨，与它们朝夕相处，每天洗刷，整理。而殷墟中的遗骸，复活了那段久违的记忆。 大师就是大师，李济一直保持着开放的姿态，乐于和其他学科的专家合作研究。一九二九年，中央研究院地质研究所的李毅，就应邀对殷墟出土的白陶、硬陶和灰陶标本进行了化学成分的实验分析。 两年后，英国皇家科学工业学院的哈罗德教授收到了李济寄出的四件铜器标本，并进行了检验。地质调查所新生代研究室的杨钟健和德日进则应李济之邀，对殷墟出土的动物遗骸进行了深入的研究。他们鉴定出二十四种动物，最令人惊讶的是，殷墟甚至有鲸、象、貘的遗骨，由此可见，虽然末代都城地处内陆，殷商王朝其实与南方沿海地区存在着广泛的贸易往来。 毫无疑问，殷墟考古更加奠定了李济中国考古学之父的地位。 董作宾亦是殷墟考古自始至终的核心人物，他直接参与、主持的发掘就有八次。而作为甲骨文研究的著名专家、“甲骨四堂”之一，他最大的成就当然体现在其甲骨学研究上。 董作宾最值得敬仰的研究成果当属《甲骨文断代研究例》及《殷历谱》。前者完成于殷墟发掘期间（1933年），提出甲骨断代研究的十项标准，把甲骨分为五期。从此甲骨学研究有了精准的年代学依据。 这样的成就，用他自己的话说，是“从地下挖出来的”——也就是科学考古的成果。