赫德希望从巴德诺那儿了解到法国政府的最低要求,巴德诺也想通过赫德将法国政府的要求与强硬态度传递给总理衙门。7月13日,巴德诺回访赫德,表示法国将采取有利于自己的行动。巴德诺走后,赫德立即将两人会谈的内容电告总理衙门和李鸿章。同时赫德还电请总理衙门将中国军队调回中国境内,并派两江总督曾国荃为全权大臣,赴沪与巴德诺谈判。赫德的建议为清政府所接受。
赫德到达上海后,最为紧迫的任务就是想方设法使法国最后通牒展期。7月17日巴德诺告诉赫德,如果总理衙门致函谢满禄,承认赔款,最后通牒可能会展期。赫德立即将巴德诺的要求电告总理衙门。眼见法国最后通牒的期限将近,赫德非常着急,他希望中法双方都能退让一下,和平解决中法冲突。他对巴德诺说:“你们已经得到你们想要的了——领土,中国的困难是赔款,而这对你们来说并不是非常重要,希望可以撤销这项要求。” 同时他又电劝总理衙门承认法国要求赔款的权利,待曾国荃到沪后,再由有约三国商订赔款数目。但是清政府在赔款问题上态度非常坚决,“不能认此无名兵费” ,所以总理衙门在给赫德的回电中明确表示,如果不能按照清政府的意思使巴德诺取消赔款,可先回京。虽然清政府没有同意赔款,但是由于已经颁布撤兵谕旨,法国政府同意最后通牒展期7天。
根据赫德的建议,清政府任命曾国荃为全权大臣,陈宝琛为会办,前赴上海与巴德诺进行谈判,并派邵友濂与四川候补道刘麒祥随同办理。此时中法矛盾的焦点集中在赔款问题上。巴德诺告诉赫德,如果曾国荃没有被授权解决赔款问题,他就不需要来了,因为巴德诺从巴黎得到的命令是不解决赔款问题不能讨论其他事情。赫德立即将巴德诺的意思电告总理衙门,并称如果到8月1日还不能解决中法矛盾,他就回京。赫德认为自己此次来沪还是取得了一定成就:一是与巴德诺开会商之路;二是最后通牒展限;三是交涉难办之事只剩下赔偿一端。而赔款问题是最难解决的,一方面他不能强迫中国答应赔款;另一方面他又不能强迫法国将赔款取消。赫德非常希望清政府能够在赔款问题上让步,他建议如果曾国荃有议允偿款之权,总理衙门应该奏请添派正在上海准备赴任的出使法、德、奥、荷大臣许景澄为会办。总理衙门根据赫德的建议奏请添派许景澄为会办,获得清政府谕允。
因为赫德并不是清政府的正式代表,所以法国政府让巴德诺不要再同赫德讨论赔款问题。7月24日,赫德拜访巴德诺,巴德诺表示刚刚接到茹费理的命令,只能与曾国荃谈判赔款问题。巴德诺告诉赫德,赔款可能会减少到2亿法郎。于是赫德再次电告总理衙门,督促他们授权曾国荃告诉巴德诺中国将给予一个固定数额的赔款,或者由三个国家来仲裁赔款数额。
7月25日,曾国荃到达上海,赫德拜访曾国荃,商量与巴德诺谈判的事情。曾国荃虽然是中方的全权代表,但是他对于谈判茫然无措,表示此次谈判将依靠赫德的帮助,一切都听从赫德的安排。赫德则表示他将为曾国荃准备一份备忘录,供他谈判时参考。此时,曾国荃非常害怕自己会落得崇厚那样的下场,赫德则安慰他称,他们只是向总理衙门提出建议,让总理衙门做出决定。
对于赔款问题,清政府内部也是摇摆不定。巴德诺告诉赫德,总理衙门星期三给谢满禄的照会说曾国荃有解决赔款的权力 ,但是星期六的照会不仅说曾国荃没有这样的权力,而且说中国不会赔款,中法冲突完全是法国的过错。所以巴德诺非常生气,他告诉赫德他将只问曾国荃“赔款还是不赔”,如果得到的答复是否定的,他将立即采取行动。为了避免会谈破裂,赫德建议巴德诺不要这样做,而是要平静地处理这个问题。巴德诺最终同意按照赫德的建议行事,并称赔款可以换一个名目,可以换成边界管理与建设经费。
对于赔款,赫德所设想的解决办法是,让其他国家对赔款数额进行公断。曾国荃本来答允赫德向巴德诺提出这个建议,但是在与巴德诺会谈时却提出了中国以抚恤金的名义给予法国50万两白银,为巴德诺所拒绝。同时曾国荃因为提议赔付法国50万两白银而受到清政府的斥责 ,所以他再不敢与巴德诺接触。赫德只好自己直接同巴德诺商谈赔款问题。8月2日巴德诺告诉赫德,法国对于曾国荃所提50万两赔款感到非常遗憾,法国又恢复了行动的自由,但是如果中国同意分担边界花费的1/3,也就是4000万两的1/3,法国就会满意。
为了使中法矛盾和平解决,赫德在巴德诺所提赔款数额的基础上,于8月3日向巴德诺提出了一个新的方案:中国答应在边境建设补偿的名义下,10年内每年支付法国800万法郎;但是法国要以维持安南进贡为交换条件,在法国订立各种新约以前,安南每两年向中国皇帝进贡一次。为了让巴德诺能够接受越南向中国进贡这一条件,赫德强调说,进贡不过是维持一种仪式而已。但巴德诺坚决反对越南向中国进贡,认为这一提议等于间接否定了法国的保护权。不过巴德诺对于赫德所提8000万法郎分10年支付的方案,则认为可能会为法国所接受。赫德希望曾国荃将该建议奏告清政府,为曾国荃所拒绝。赫德只好自己将这一建议电告总理衙门。
除了边界经费的建议,赫德还向巴德诺提出了以铁路修建权利代替赔款的建议。巴德诺起初认为这个方案不好,但是经过赫德的反复解释,他逐渐对这个计划产生兴趣,并要求赫德把这个计划写出来。赫德也将这一计划电告总理衙门。
此时,李鸿章同样也非常希望中法和谈成功。8月4日,德璀琳电告赫德,李鸿章希望赫德能够待在上海,李鸿章可能会取代曾国荃,负起和谈责任。李鸿章询问赫德,如果他这样做的话,和谈是否会成功。赫德电复称,他将在上海待到8月10日或者总理衙门希望的日期,如果李鸿章来上海和谈,除非具有赔款的权力,否则结果只能是失望。但是,此时清政府根本不愿意赔款。8月5日,赫德接到总理衙门来电,称中国不会赔款。因为调停无果,赫德电询总理衙门他是按照李鸿章的要求继续待在上海,还是遵照总理衙门的命令返回北京。总理衙门的答复是让他返回北京。
由于法国坚持要求中国赔款,而清政府则拒不赔款,所以双方矛盾不但无法解决而且进一步激化。8月5日,法国舰队占领基隆。巴德诺告诉赫德,如果中国迅速同意赫德所提边境经费的方案,现在就可以和平解决中法矛盾,否则法国舰队就会炮轰福州城与福州船政局,然后占领台湾,并北上。赫德立即将这一信息电告总理衙门与李鸿章。
此次中法会谈,虽然曾国荃是中方的全权代表,但是真正与巴德诺谈判的却是赫德。巴德诺在8月8日致茹费理的信函中称:“自我到上海以来,陆续与我往来的谈判人员中只有赫德一人能与之作郑重的商议。这位中国海关总税务司为使中国政府免于因与法国决裂而遭受毁灭性的后果,在设法寻找一个双方均可接受的办法。” 所以茹费理要求巴德诺继续与赫德相商。然而,法国占领基隆,使本来就很艰难的中法谈判更显无望。8月11日总理衙门再次电令赫德返回北京。8月14日,赫德乘“凌风”号缉私船离开上海。至此,赫德的上海调停以失败而告终。