使用 python 破除网页限制
昨天找到一个比较好的人工智能网站, 其中有一些很不错的 prolog 文章,我很感兴趣。文中有很多示例程序,可是网页的右键被禁止了,也不能选择,不能保存,不能察看源代码!!
??? 实在不爽,信息本来就要共享嘛!
??? 只好发扬下 hack 精神,冲破限制。还好,有 python 方便多了。
??? 网页中增加限制,无非是在 html 中设置脚本,既然浏览器可以显示出来,就一定能得到它的文本。
第一步,在 python shell 中执行:
>>> import urllib
>>> urllib.urlretrieve("http://www.chinaai.org/Article_Show.asp?ArticleID=315","c:/tmp.html")
urlretrieve 可以把一个网页保存到本地文件。
第二步,分析这个 tmp.html 文件,发现其中的?< body > 标签比较恶心:
body leftmargin=0 topmargin=0 onmousemove=''HideMenu()'' oncontextmenu="return false" ondragstart="return false" onselectstart ="return false" onselect="document.selection.empty()" oncopy="document.selection.empty()" onbeforecopy="return false" onmouseup="document.selection.empty()"
把这个标签换成比较干净的:body leftmargin=0 topmargin=0 onmousemove=''HideMenu()''
(注意, < > 在这里省略了)
浏览这个文件, ok 限制解除。
第三步, 自动下载网页,进行“净化”处理, 编写一个python?程序:
import urllib
urls = {''http://www.chinaai.org/Article_Show.asp?ArticleID=315'':''prolog2.html''}
new_tag = ""
for url in urls:
??filename = urls[url]
??urllib.urlretrieve(url,filename)
??f = open(filename,''r'')
??content = f.read()
??f.close()
??l_pos = content.find(''<body'')
??r_pos = content.find(''>'', l_pos)
??cont1 = content[:l_pos]
??cont2 = content[r_pos + 1:]
??content = cont1 + new_tag + cont2
??f = open(''tmp.html'',''w'')
??f.write(content)
??f.close()
程序中 urls 是一个 字典,里面是 url 和 相应的本地文件名, 使用者可以根据自己的情况添加。
注意,这个程序是专门针对这个网站的, 对于其他的网站,可能使用的方易做图有不同,但是按照上面的步骤,相信大家都能搞定。
我们的口号是,“还我自由!”