(点击上方公众号,可快速关注)
来源:rapospectre
segmentfault.com/a/1190000005640475
如有好文章投稿,请点击 → 这里了解详情
前几天写了 浅谈cgi、wsgi、uwsgi 与 uWSGI 等一些 python web 开发中遇到的一些名词的理解,今天博主就根据 wsgi 标准实现一个 web server,并尝试用它来跑 Django、tornado 框架的 app。
编写一个简单的 http server
在实现 wsgi server 之前我们先要做一些准备工作。首先,http server 使用 http 协议,而 http 协议封装在 tcp 协议中,所以要建立一个 http server 我们先要建立一个 tcp server。要使用 tcp 协议我们不可能自己实现一个,现在比较流行的解决方案就是使用 socket 套接字编程, socket 已经帮我们实现了 tcp 协议的细节,我们可以直接拿来使用不用关心细节。 socket 编程是语言无关的,不管是以前博主用 MFC 写聊天室还是用 C# 写网络延迟计算还是现在写 http server,它的使用流程都是一样的:
server
初始化 socket;
绑定套接字到端口(bind);
监听端口(listen);
接受连接请求(accept);
通信(send/recv);
关闭连接(close);
client
初始化 socket;
发出连接请求(connect);
通信(send/recv);
关闭连接(close);
server 的具体实现:
# coding: utf-8
# server.py
import socket
HOST, PORT = '', 8888
# 初始化
listen_socket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
listen_socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
# 绑定
listen_socket.bind((HOST, PORT))
# 监听
listen_socket.listen(1)
print 'Serving HTTP on port %s ...' % PORT
while True:
# 接受请求
client_connection, client_address = listen_socket.accept()
# 通信
request = client_connection.recv(1024)
print request
http_response = """
HTTP/1.1 200 OK
Hello, World!
"""
client_connection.sendall(http_response)
# 关闭连接
client_connection.close()
而 client 不需要我们自己实现,我们的浏览器就是一个 client ,现在运行python server.py,然后在浏览器中打开 localhost:8888即可看到浏览器中显示 hello world!,这么快就实现了一个 http server 有木有 hin 激动!
然而想要 Django 这类框架的 app 在我们写的 http server 中运行起来还远远不够,现在我们就需要引入 wsgi 规范,根据这个规范我们就可以让自己的 server 也能运行这些框架的 app啦。
编写一个标准的 wsgi server
首先,我们要看官方文档里 wsgi 的解释:PEP 3333
嗯,就是一篇很长的英语阅读理解,大概意思就是如果你想让你的服务器和应用程序一起好好工作,你要遵循这个标准来写你的 web app 和 web server:
server–middleware–application
application
application 是一个接受接受两个参数environ, start_response的标准 wsgi app:
environ: 一个包含请求信息及环境信息的字典,server 端会详细说明
start_response: 一个接受两个参数`status, response_headers`的方法:
status: 返回状态码,如http 200、404等
response_headers: 返回信息头部列表
具体实现:
def application(environ, start_response):
status = '200 OK'
response_headers = [('Content-Type', 'text/plain')]
start_response(status, response_headers)
return ['Hello world']
这样一个标准的 wsgi app 就写好了,虽然这看上去和我们写的 Django app、 tornado app 大相径庭,但实际上这些 app 都会经过相应的处理来适配 wsgi 标准,这个之后会详谈。
server
wsgi server 的实现要复杂一些,所以我先贴自己实现的 wsgi server 代码,然后再讲解:
# server.py
# coding: utf-8
from __future__ import unicode_literals
import socket
import StringIO
import sys
import datetime
class WSGIServer(object):
socket_family = socket.AF_INET
socket_type = socket.SOCK_STREAM
request_queue_size = 10
def __init__(self, address):
self.socket = socket.socket(self.socket_family, self.socket_type)
self.socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
self.socket.bind(address)
self.socket.listen(self.request_queue_size)
host, port = self.socket.getsockname()[:2]
self.host = host
self.port = port
def set_application(self, application):
self.application = application
def serve_forever(self):
while 1:
self.connection, client_address = self.socket.accept()
self.handle_request()
def handle_request(self):
self.request_data = self.connection.recv(1024)
self.request_lines = self.request_data.splitlines()
try:
self.get_url_parameter()
env = self.get_environ()
app_data = self.application(env, self.start_response)
self.finish_response(app_data)
print '[{0}] "{1}" {2}'.format(datetime.datetime.now().strftime('%Y-%m-%d %H:%M:%S'),
self.request_lines[0], self.status)
except Exception, e:
pass
def get_url_parameter(self):
self.request_dict = {'Path': self.request_lines[0]}
for itm in self.request_lines[1:]:
if ':' in itm:
self.request_dict[itm.split(':')[0]] = itm.split(':')[1]
self.request_method, self.path, self.request_version = self.request_dict.get('Path').split()
def get_environ(self):
env = {
'wsgi.version': (1, 0),
'wsgi.url_scheme': 'http',
'wsgi.input': StringIO.StringIO(self.request_data),
'wsgi.errors': sys.stderr,
'wsgi.multithread': False,
'wsgi.multiprocess': False,
'wsgi.run_once': False,
'REQUEST_METHOD': self.request_method,
'PATH_INFO': self.path,
'SERVER_NAME': self.host,
'SERVER_PORT': self.port,
'USER_AGENT': self.request_dict.get('User-Agent')
}
return env
def start_response(self, status, response_headers):
headers = [
('Date', datetime.datetime.now().strftime('%a, %d %b %Y %H:%M:%S GMT')),
('Server', 'RAPOWSGI0.1'),
]
self.headers = response_headers + headers
self.status = status
def finish_response(self, app_data):
try:
response = 'HTTP/1.1 {status}rn'.format(status=self.status)
for header in self.headers:
response += '{0}: {1}rn'.format(*header)
response += 'rn'
for data in app_data:
response += data
self.connection.sendall(response)
finally:
self.connection.close()
if __name__ == '__main__':
port = 8888
if len(sys.argv) 2:
port = sys.argv[2]
def generate_server(address, application):
server = WSGIServer(address)
server.set_application(TestMiddle(application))
return server
app_path = sys.argv[1]
module, application = app_path.split('.')
module = __import__(module)
application = getattr(module, application)
httpd = generate_server(('', int(port)), application)
print 'RAPOWSGI Server Serving HTTP service on port {0}'.format(port)
print '{0}'.format(datetime.datetime.now().
strftime('%a, %d %b %Y %H:%M:%S GMT'))
httpd.serve_forever()
首先我们看 WSGIServer 类__init__方法主要是初始化 socket 与服务器地址,绑定并监听端口;其次,serve_forever(self): 持续运行 server;handle_request(self):处理请求;最后,finish_response(self, app_data):返回请求响应。
再来看__main__里是如何运行 WSGIServer的:
获得地址和端口后先初始化 WSGIServer:server = WSGIServer(address),然后设置加载的wsgi app:server.set_application(TestMiddle(application)),接着持续运行 server:httpd.serve_forever()
那么根据以上信息,可以总结出 wsgi server 应该是这样一个过程:
初始化,建立套接字,绑定监听端口;
设置加载的 web app;
开始持续运行 server;
处理访问请求(在这里可以加入你自己的处理过程,比如我加入了打印访问信息,字典化访问头部信息等功能);
获取请求信息及环境信息(get_environ(self));
用environ运行加载的 web app 得到返回信息;
构造返回信息头部;
返回信息;
只要实现了以上过程,一个标准的 wsgi server 就写好了。仔细观察,其实一个 wsgi server 的重要之处就在于用environ去跑 web app 得到返回结果这一步,这一步和前面的 application 实现相辅相成,然后框架和服务器都根据这套标准,大家就可以愉快的一起工作了。
现在运行python server.py app.app 8000, 然后浏览器访问localhost:8000:
后端
浏览器
到此,我们的 wsgi server 已经可以正常运行了,这时我们再来看看 middleware:
middleware
middleware 中间件的作用就是在server 拿到请求数据给 application 前如果想做一些处理或者验证等等功能,这时候 middleware 就派上用场了,当然你愿意的话也可以写在你的 server 里,只是 wsgi 规范更建议把这些写在中间件里,下面我来实现一个检查请求’User-Agent’是否为正常浏览器,不是就把请求拒绝掉的中间件:
初始化用来接收 application,然后在__call__方法里写入处理过程,最后返回 application 这样我们的中间件就能像函数一样被调用了。
然后引入中间件:
现在重启 server 然后用 postman 访问服务器:
可以看到,中间件起作用了!
接下来,我们再谈谈 Django 和 tornado 对于 wsgi 的支持:
Django WSGI:
Django WSGI application
django 本身的应用体系比较复杂,所以没有办法直接拿来用在我们写的 wsgi server 上,不过 Django 考虑到了这一点, 所以提供了 WSGIHandler:
class WSGIHandler(base.BaseHandler):
request_class = WSGIRequest
def __init__(self, *args, **kwargs):
super(WSGIHandler, self).__init__(*args, **kwargs)
self.load_middleware()
def __call__(self, environ, start_response):
set_script_prefix(get_script_name(environ))
signals.request_started.send(sender=self.__class__, environ=environ)
try:
request = self.request_class(environ)
except UnicodeDecodeError:
logger.warning(
'Bad Request (UnicodeDecodeError)',
exc_info=sys.exc_info(),
extra={
'status_code': 400,
}
)
response = http.HttpResponseBadRequest()
else:
response = self.get_response(request)
response._handler_class = self.__class__
status = '%d %s' % (response.status_code, response.reason_phrase)
response_headers = [(str(k), str(v)) for k, v in response.items()]
for c in response.cookies.values():
response_headers.append((str('Set-Cookie'), str(c.output(header=''))))
start_response(force_str(status), response_headers)
if getattr(response, 'file_to_stream', None) is not None and environ.get('wsgi.file_wrapper'):
response = environ['wsgi.file_wrapper'](response.file_to_stream)
return response
可以看到,这里 WSGIHandler 一样使用start_response(force_str(status), response_headers)把 Django app 封装成了 标准 wsgi app ,然后返回 response。
Django WSGI server
Django 同样也实现了 wsgi server:
基本全部继承于wsgiref.simple_server.WSGIServer:
可以看到,和我们实现的 wsgi server 是差不多的。
Tornado WSGI
tornado 直接从底层用 epoll 自己实现了 事件池操作、tcp server、http server,所以它是一个完全不同当异步框架,但 tornado 同样也提供了对 wsgi 对支持,不过这种情况下就没办法用 tornado 异步的特性了。
与其说 tornado 提供了 wsgi 支持,不如说它只是提供了 wsgi 兼容,tornado 提供两种方式:
WSGIContainer
其他应用要在 tornado server 运行, tornado 提供 WSGIContainer。
今天这里主要讨论 wsgi ,所以这里就不分析 tornado 这部分代码,之后做 tornado 源码分析会再分析这里。
WSGIAdapter
tornado 应用要在 wsgi server 上运行, tornado 提供 WSGIAdapter:
可以看到 tornado 也是将自己的应用使用前文那个流程改为标准 wsgi app,最后我们来试试让我们自己的服务器运行 tornado app:
运行:python tornado_wsgi.py,打开浏览器:localhost:9090,完美运行,中间件也运行正常:
文中代码源码:simple_wsgi_server(https://github.com/bluedazzle/simple_wsgi_server)
参考资料:Let’s Build A Web Server (https://ruslanspivak.com/lsbaws-part1/)
看完本文有收获?请转发分享给更多人
关注「Python开发者」,提升Python技能