概述
下载新版本的python
解压缩 以及编译
覆盖原来的python链接
此处已经可以正常使用python2.7了
但是因为yum是使用的2.4的版本来用的，所以 还需要修改一下
实际应用中可能需要抓取google的很多网页，所以还需要使用多线程来分担抓取任务。使用google web search api的参考详细介绍，请看此处（这里介绍了Standard URL Arguments）。另外要特别注意，url中参数rsz必须是8（包括8）以下的值，若大于8，会报错的！
（3）代码实现
代码实现还存在问题，但是能够运行，鲁棒性差，还需要进行改进，希望各路大神指出错误（初学Python），不胜感激。
#-*-coding:utf-8-*-
import urllib2,urllib
import simplejson
import os,time,threading
import common,html_filter
#input the keywords
keywords = raw_input('Enter the keywords: ')
#define rnum_perpage,pages
rnum_perpage=8
pages=8
#定义线程函数
def thread_scratch(url,rnum_perpage,page):
url_set = []
try:
request = urllib2.Request(url,None,{'Referer': 'http://www.sina.com'})
response = urllib2.urlopen(request)
# Process the JSON string.
results = simplejson.load(response)
info = results['responseData']['results']
except Exception,e:
print 'error occured'
print e
else:
for minfo in info:
url_set.append(minfo['url'])
print minfo['url']
#处理链接
i = 0
for u in url_set:
try:
request_url = urllib2.Request(u,{'Referer': 'http://www.sina.com'})
request_url.add_header(
'User-agent','CSC'
)
response_data = urllib2.urlopen(request_url).read()
#过滤文件
#content_data = html_filter.filter_tags(response_data)
#写入文件
filenum = i+page
filename = dir_name+'/related_html_'+str(filenum)
print ' write start: related_html_'+str(filenum)
f = open(filename,'w+',-1)
f.write(response_data)
#print content_data
f.close()
print ' write down: related_html_'+str(filenum)
except Exception,e:
print 'error occured 2'
print e
i = i+1
return
#创建文件夹
dir_name = 'related_html_'+urllib.quote(keywords)
if os.path.exists(dir_name):
print 'exists file'
common.delete_dir_or_file(dir_name)
os.makedirs(dir_name)
#抓取网页
print 'start to scratch web pages:'
for x in range(pages):
print "page:%s"%(x+1)
page = x * rnum_perpage
url = ('https://ajax.googleapis.com/ajax/services/search/web'
'?v=1.0&q=%s&rsz=%s&start=%s') % (urllib.quote(keywords),page)
print url
t = threading.Thread(target=thread_scratch,args=(url,page))
t.start()
#主线程等待子线程抓取完
main_thread = threading.currentThread()
for t in threading.enumerate():
if t is main_thread:
continue
t.join()
# 来自jb51.cc 总结
以上是编程之家为你收集整理的python2.4升级2.7.2入门实例全部内容，希望文章能够帮你解决python2.4升级2.7.2入门实例所遇到的程序开发问题。
如果您也喜欢它,动动您的小指点个赞吧
602392714
清零编程群