不久，他发现京师这个地方有很多不合祖宗章法、怪异的现象出现。一天，他在玄武门看见有座教堂，那里竟有碧眼、金发、大鼻子洋人优哉游哉地进出，而且作了钦天监正，国家没有人了吗？他的心里好像吞下一千只苍蝇，极大的不舒服。他认为这些洋人都是别有用心的人，是坏蛋、间谍……是来颠覆大清江山社稷的。基于他的这种心理，他想对汤若望取而代之，于是他也开始研究起“天文学”。他对这方面的知识并不全是门外汉，在中国古代的兵书中就有与天文、卜算相关的内容，这些极其浅薄的天文常识，便成为他日后同汤若望较量的资本、武器。其后，这位“好高论大言”的杨光先又拉拢稍通历法的同郡吴明煊开始攻击汤若望。他先以天主教为目标，斥责教士们散布“妖书”、“邪说”，他作了《辟邪论》，一版就印了5000册，广为散发，煽动人们反对天主教。他在书中写道：“今日之天主堂，即当年之首善书院也，若望乘魏当之焰夺而有之，毁大成至圣先师孔子之木主践于粪秽之内，言之能不令人眦欲裂乎？此司马冯元飚之所以切齿痛心向人涕泣而不共戴天者也……”
潜谋造反；
邪说惑人；
历法荒谬。
被告除了汤若望还有：南怀仁、利类思、安文思。中国人李祖白、潘尽孝、许之渐、许保禄。
辅臣鳌拜等人接到杨光先的奏章心中暗喜，因为杨光先告的人也正是他久存心中的淤块、毒瘤，他更不愿看到一个外国人作为大清帝国的朝臣进出宫禁，他想这成何体统，这不是违背祖宗的规矩吗？他早想收拾他们，将其赶出宫门，赶出中国，这个机会终于到了。
“对汤若望等人的罪行，要调查、审判。”鳌拜在议政大臣会上先定了一个调子说。别的辅臣和大臣对此也无异议，一致支持杨光先，事情就这样决定了。
对汤若望的审判终于开庭了。1664年9月，这天汤若望等8名被告被带上大理院。
这时的汤若望已经60多岁了，且老病缠身，他患的是什么病呢？大概是今人叫做肺气肿之类的毛病吧，还加上中度中风，肢体瘫痪，语言困难。
“本官问你第一条罪状可是事实，全部认领？”审判官严厉地对汤若望问道。
汤若望由于说话困难，又有九条大锁链加身（没有任何人看管，他也无力逃脱）。他只能用吞吞吐吐的德语小声讲，然后由南怀仁转述。
第一条罪状，庭审延续了半个多月。原告杨光先提供的证据是：教友所佩带的圣像，贴在门口的瞻礼单，就是阴谋造反的标记。杨光先说在澳门一带已聚集了几万人准备暴动；还有，教士们在中国居留本身就是不合法的，不奉本国的派遣，不得到我国允许就进入境内进行宣传教义，这不是煽惑是干什么？
汤若望、南怀仁等被告不是私自混进境内的，当庭拿出了中国政府入境的批准书。
按照杨光先的控告，办案人员实际来到澳门进行侦查，汤若望是否在这里已经建立暴动基地，纠集了几万人马？实地调查结果连一个人马的影子也没捕到，当地人一听都为笑谈。他们在华总共二三十名传教士，分散于各省，既没有兵器又没有组织，怎么聚众，怎么造反呢？毫无疑问这条罪状是有意捏造的。
第二条，关于汤若望“邪说惑众”，这是杨光先最为厉害的“子弹”了，使汤若望无法逃脱。他指控天主教散福音书、教义以及宣讲讲义，杨光先都认为是邪说。经过十二堂的审理，南怀仁具实而辩，但这根本无用，清廷的法律，刑部说了也不算，是皇上说了算，而现在的皇上说了也不算，是辅臣说了算，辅臣中又是鳌拜说了算，说你有罪就有罪，没罪也有罪。因为鳌拜认定他们宣传的东西荒诞不经，是蛊惑人心的。那么，这些人就得进大牢。
法庭审理的结果是：南怀仁、利类思、安文思三人投入大狱。其中汤若望为首犯，立即革职并判死刑。
其余与此案有牵连的许之渐、许瓒、佟国器等人，有官的予以革职，各责40大板，发配到北方宁古塔、尚阳堡，同时下令各省把在本地的西洋传教士一律押送到京听候审判处理。
汤若望丢掉官职，没有俸禄，他也没有家室、亲友，孑然一身，一无所有，九链加身，只待临刑。
被钉在“十字架”上的汤若望，他再也没有繁琐的官场应酬、政务、礼尚往来，中国的诸多朋友、教友，都被拒绝接见，但他不是在等待死亡，这时他比较集中地回忆和反思一生所走过的路。
“中国是重视而且需要科学的。”此时此地他仍是这样的肯定，毫不动摇。
他在进入这个闭锁的东方帝国，在通往宫廷的路上，是走得十分艰难的，他知道他即将永远离开这块热土，这个美丽的国家，走向天国，他留给人们一些什么呢？是教理、天学、日轨、历法、星象、火器、医学、建筑……还有格物穷理之类的书，这类书过去是这里没有的，中国的学人评价是：“有资实学，有裨世用……其道使人心归实，虚骄之气潜消。”但是，他感到比起中国人民对他的深情厚谊，这些太少了。在此之前，中国人对与宇宙的知识，认定是“天如伞，地如盘”，或是“天圆地方”，由于汤若望等人的工作、实地试验，使人们开始认识“天外有天，山外有山”，知识界整个学风随之有了改变，如严冬解冻，万绿萌生，群动蠕跃，出现生动活泼的新局面。而汤若望在这里所起的作用是不容忽视的，在连结东西方上，他是桥梁、纽带。跟随汤若望脚步而来的天主教传教士遍及于济南、淮安、扬州、镇江、江宁、苏州、常熟、上海、杭州、金华、兰鹆、福州、建宁、延平、汀州、南昌、赣州、广州、桂林、重庆、保宁、武昌、西安、太原、绛州、开封等地，建天主堂三十余所。
汤若望这样勤恳地在华工作四十年，而在晚年遭受这样不白之冤，这在常人的精神上和肉体上是很难忍受的。可他在九条锁链下，所想的不是杨光先等人对他的加害、鳌拜等掌权者对他的蔑视，而是在对他一生的许多过失进行忏悔，并不为来到中国传教所受苦难而后悔。汤若望的健康和在狱中的生活状况都说明这个“洋大学问”将不久于人世了。而这时迫害狂杨光先等人的脚步也加快了，他继续罗织罪状加害汤若望，好让朝廷尽快对其行刑。
为了实现他害人于死地的目的，他花费了白银四十万两，宝珠十八颗买通了许多办案官员。钱能通神，在中国各朝的许多官员靠的就是这个集敛财物，所以在整个案件审理过程中，好多人是缄默其口的，很少有人站出来说句公道话。
1665年4月，汤若望等人这起大案有了宣判，开始定为处斩，但当权者还认为不够狠，要对他进行中国最严厉、最残酷的刑法：凌迟。
本案牵扯到的其他七被告，他们是：刻漏科杜如予、五品挈壶正杨宏亮、历科李祖白、春官正宋可成、秋官正宋发、冬官正朱光显、中官正刘有泰，这七人也一律凌迟。前面涉及到的李祖白等七人，判为斩刑，妻子流徙，家产籍没。
一天，正阳门旁边围了好些人，在看朝廷对汤若望等人处决的布告。善良的人们流下了眼泪，感到这太冤枉。教友为他做着祈祷。正要将木笼囚车拉向刑场时，白昼间的京城天空突然电光一闪，隆隆作响，山摇地动，四城之内，墙倒屋塌……好多财物、珍宝和生命被埋藏在废墟之下。
“啊……神圣的圣母呀！”
天下究竟发生了什么大事？谁都不知道。
清人蒋良麒的《东华录》作了这样的记载：
三月戊子午亥，京师地震有声，已丑，彗星见行人奎宿，下诏肆赦。
一场地震把朝廷给震晕了。平素八面威风的鳌拜，一下处在惶惶然不可终日之中。他的爱妾对他说：
“把汤若望放开吧，我们得罪了上苍！”
“我们怎么能得罪上苍呢！”鳌拜说：“你不是每天为我烧香拜佛吗？”
“汤若望是神父啊，能把人间善恶告诉上帝的！”
京城里一片混乱，宫廷中一片混乱，惊慌中的人们，都在议论抓汤若望的事，要求放开汤神父，不然上天要百倍地对我们进行惩罚。
地震的第二天，朝廷马上颁布谕旨，皇恩大赦，在狱中关押的斩监候，包括利类思、安文思、南怀仁、许保禄等一律释放。
那么汤若望呢？
他作为首犯，案情重大，再说作为议政王、辅政大臣，不能今天判凌迟，明天无罪释放自己打自己的嘴巴，岂不成为国人大笑话，他还要点面子，当然这个面子的运作原则，西方人通常是不能理解，不可捉摸的。
但是，国人对于地震的议论之声很强烈，不管来自哪方的信息都与汤若望被关联系起来，说有人作了孽，如果还继续作恶，上天将给人间更大的惩治，一致要求早日把汤若望无罪释放。
鳌拜等辅政大臣们深怕引火烧身，上天把灾难降到自己的头上，为汤若望案踌躇起来，好像一下被赶进一条死胡同里，陷于泥沼中进也不是，退也不是，不能自拔。鳌拜忽然想出一个主意，何不撒手不管，交给太皇太后处理。
太皇太后接过递上的奏折，面有怒色，对跪在脚下的辅臣们训斥说：“先帝当初十分信任汤若望的，你们没看到吗？先帝自称汤若望为玛法，你们不知道吗？你们真是胆大包天，竟敢处汤若望死刑，先帝在天之灵能容忍吗？”
牢狱的大门，终于为汤若望打开了。
这时，杨光先已取代汤若望为钦天监工，他早已把汤若望逐出南堂，赶进东堂（圣约瑟堂，今王府大街）。
汤若望在孤灯下，感到生命余下的时间不多了，他把所有的时间都用在为教会写忏悔书上，他已经不能握笔了，只好由他口述，南怀仁代笔。
1665年7月21日，他完成了他的忏悔书，竭尽全力颤抖地在上面签上了他的名。此后他就一直处于昏迷中。
1666年8月15日（康熙五年七月十五），汤若望的病情进一步恶化，请来同会司铎为他作了终傅礼。
1666年8月15日（康熙五年七月十五日），这一天正是京城荷灯节，也是华夏民族传统祭祀死者的日子。在西方，这一天是圣母玛丽亚升天节。
汤若望再无一点力气望着窗外碧蓝的晴空，去看北海湖面上的荷灯，他在无伴奏的弥撒曲中永久地闭合上了双眼。在圣乐中紧紧追随圣母而去……
他的脸上没有一丝痛苦，好像在说我准备远行，选择了一个多么好的日子，“再见吧，我可爱的中国，可爱的朋友们……”
汤若望永远地安睡了，静静地睡在京都阜成门外，车公庄三塔寺，墓碑上书：
耶稣会士汤公之墓
墓碑上有朝廷的祭文，如下：
鞠躬尽瘁臣子之芳踪。恤死报勤国家之盛典。尔汤若望来自西域。晓习天文。特畀象历之司。爱锡通微老师之号。遽尔长逝。腾用悼焉。特加恩恤。遗官致辞祭。呜呼。聿垂不朽之荣。庶享匪躬之报。尔如有如。尚可歆享。
康熙八年十一月十六日
百年烟云，沧海一粟。历史是公正的，汤若望的价值与智慧，今天仍有其现实意义。
世界文化的沟通与交流，如源远流长的滔滔江水，不可阻挡……
