首先，为你的丈夫能回到你身边，继续维系这个家庭向你们表示祝贺！
其次，从法律上来讲，如果那个女的生下了你丈夫的孩子（这点必须确认），你丈夫是肯定需要承担抚养义务的。换言之，你丈夫必须支付抚养费用到那孩子成年。
这个事情的解决途径:
第一，那女人已婚，是否生育呢？如果那女的没有生育，她是有权利生育的。孩子生下来，因为那孩子是你丈夫和她的，所以你丈夫得承担抚养费用；如果不是，当然就不需要承担抚养费用了。
第二，如果她已经生育，是否还可以生育第二胎呢？因为有些地方可以生第二胎，还有她是否符合生育第二胎的条件（比如她现任丈夫几代单传，或者她第一胎有残疾等）?如果不符合生育第二胎的条件，可以向计划生育办公室举报，让政府出面使她堕胎。
从法律上来说，你丈夫和那女人的关系属于道德调整的范畴。如果要说责任，最多也是道德的谴责。
如果那女的非要将那孩子生下来，孩子则属于非婚生子女。通俗讲叫私生子。
那女的同样承担对那孩子的抚养责任。
对你丈夫这种情形，能追究刑事责任的最大可能就是重婚罪。而重婚罪属于公民自诉案件，就是说，你不向司法机关举报或者要求追究，即使别人去举报或者要求追究（哪怕那女人。因为她也同样面临重婚罪的指控，她求财，不至于把自己弄得身陷囹圄吧？），你丈夫都是不会被判刑的。况且，即使判刑，象你现在的态度，也是很轻的，最多也是缓刑而已。
其实，还有一个下策的解决方案。就是你和你丈夫离婚，财产悉数归你名下（法律上的依据就是，你丈夫有过错，分割财产时就要照顾无过错方。这是新婚姻法的新精神。）。那样，即使今后闹上法庭，那女的也分不到一杯羹！
祝你圆满解决家庭问题。（回复楼下：如果承认事实婚姻，对那丈夫的行为就可能存在重婚罪的追诉；如果不承认，你所陈述的“事实婚姻所产生的”一说就不成立。法律不承认事实婚姻，司法实践中多考虑事实婚姻的存在。）
