很多程序员可能会考虑使用“线程池”或“连接池”。“线程池”旨在减少创建和销毁线程的频率，其维持一定合理数量的线程，并让空闲的线程重新承担新的执行任务。“连接池”维持连接的缓存池，尽量重用已有的连接、减少创建和关闭连接的频率。

这两种技术都可以很好的降低系统开销，都被广泛应用很多大型系统，如websphere、tomcat和各种数据库等。但是，“线程池”和“连接池”技术也只是在一定程度上缓解了频繁调用IO接口带来的资源占用。而且，所谓“池”始终有其上限，当请求大大超过上限时，“池”构成的系统对外界的响应并不比没有池的时候效果好多少。所以使用“池”必须考虑其面临的响应规模，并根据响应规模调整“池”的大小。

对应上例中的所面临的可能同时出现的上千甚至上万次的客户端请求，“线程池”或“连接池”或许可以缓解部分压力，但是不能解决所有问题。总之，多线程模型可以方便高效的解决小规模的服务请求，但面对大规模的服务请求，多线程模型也会遇到瓶颈，可以用非阻塞接口来尝试解决这个问题

<!DOCTYPE html>

<html lang="en">

<head>

    <meta charset="UTF-8">

    <title>Title</title>

</head>

<body>

<p onclick="fun()">点我呀</p>

<script type="text/javascript">

    function fun() {

          alert('约吗?')

    }

</script>

</body>

</html>

事件驱动之鼠标点击事件注册

.要理解事件驱动和程序，就需要与非事件驱动的程序进行比较。实际上，现代的程序大多是事件驱动的，比如多线程的程序，肯定是事件驱动的。早期则存在许多非事件驱动的程序，这样的程序，在需要等待某个条件触发时，会不断地检查这个条件，直到条件满足，这是很浪费cpu时间的。而事件驱动的程序，则有机会释放cpu从而进入睡眠态（注意是有机会，当然程序也可自行决定不释放cpu），当事件触发时被操作系统唤醒，这样就能更加有效地使用cpu.

.再说什么是事件驱动的程序。一个典型的事件驱动的程序，就是一个死循环，并以一个线程的形式存在，这个死循环包括两个部分，第一个部分是按照一定的条件接收并选择一个要处理的事件，第二个部分就是事件的处理过程。程序的执行过程就是选择事件和处理事件，而当没有任何事件触发时，程序会因查询事件队列失败而进入睡眠状态，从而释放cpu。

.事件驱动的程序，必定会直接或者间接拥有一个事件队列，用于存储未能及时处理的事件。

.事件驱动的程序的行为，完全受外部输入的事件控制，所以，事件驱动的系统中，存在大量这种程序，并以事件作为主要的通信方式。

.事件驱动的程序，还有一个最大的好处，就是可以按照一定的顺序处理队列中的事件，而这个顺序则是由事件的触发顺序决定的，这一特性往往被用于保证某些过程的原子化。

.目前windows,linux,nucleus,vxworks都是事件驱动的，只有一些单片机可能是非事件驱动的。

事件驱动注解

# 首先我们来定义流的概念，一个流可以是文件，socket，pipe等等可以进行I/O操作的内核对象。

# 不管是文件，还是套接字，还是管道，我们都可以把他们看作流。

# 之后我们来讨论I/O的操作，通过read，我们可以从流中读入数据；通过write，我们可以往流写入数据。现在假

# 定一个情形，我们需要从流中读数据，但是流中还没有数据，（典型的例子为，客户端要从socket读如数据，但是

# 服务器还没有把数据传回来），这时候该怎么办？

# 阻塞。阻塞是个什么概念呢？比如某个时候你在等快递，但是你不知道快递什么时候过来，而且你没有别的事可以干

# （或者说接下来的事要等快递来了才能做）；那么你可以去睡觉了，因为你知道快递把货送来时一定会给你打个电话

# （假定一定能叫醒你）。

# 非阻塞忙轮询。接着上面等快递的例子，如果用忙轮询的方法，那么你需要知道快递员的手机号，然后每分钟给他挂

# 个电话：“你到了没？”

# 很明显一般人不会用第二种做法，不仅显很无脑，浪费话费不说，还占用了快递员大量的时间。

# 大部分程序也不会用第二种做法，因为第一种方法经济而简单，经济是指消耗很少的CPU时间，如果线程睡眠了，

# 就掉出了系统的调度队列，暂时不会去瓜分CPU宝贵的时间片了。

#

# 为了了解阻塞是如何进行的，我们来讨论缓冲区，以及内核缓冲区，最终把I/O事件解释清楚。缓冲区的引入是为

# 了减少频繁I/O操作而引起频繁的系统调用（你知道它很慢的），当你操作一个流时，更多的是以缓冲区为单位进

# 行操作，这是相对于用户空间而言。对于内核来说，也需要缓冲区。

# 假设有一个管道，进程A为管道的写入方，Ｂ为管道的读出方。

# 假设一开始内核缓冲区是空的，B作为读出方，被阻塞着。然后首先A往管道写入，这时候内核缓冲区由空的状态变

# 到非空状态，内核就会产生一个事件告诉Ｂ该醒来了，这个事件姑且称之为“缓冲区非空”。

# 但是“缓冲区非空”事件通知B后，B却还没有读出数据；且内核许诺了不能把写入管道中的数据丢掉这个时候，Ａ写

# 入的数据会滞留在内核缓冲区中，如果内核也缓冲区满了，B仍未开始读数据，最终内核缓冲区会被填满，这个时候

# 会产生一个I/O事件，告诉进程A，你该等等（阻塞）了，我们把这个事件定义为“缓冲区满”。

# 假设后来Ｂ终于开始读数据了，于是内核的缓冲区空了出来，这时候内核会告诉A，内核缓冲区有空位了，你可以从

# 长眠中醒来了，继续写数据了，我们把这个事件叫做“缓冲区非满”

# 也许事件Y1已经通知了A，但是A也没有数据写入了，而Ｂ继续读出数据，知道内核缓冲区空了。这个时候内核就告

# 诉B，你需要阻塞了！，我们把这个时间定为“缓冲区空”。

# 这四个情形涵盖了四个I/O事件，缓冲区满，缓冲区空，缓冲区非空，缓冲区非满（注都是说的内核缓冲区，且这四

# 个术语都是我生造的，仅为解释其原理而造）。这四个I/O事件是进行阻塞同步的根本。（如果不能理解“同步”是

# 什么概念，请学习操作系统的锁，信号量，条件变量等任务同步方面的相关知识）。

#

# 然后我们来说说阻塞I/O的缺点。但是阻塞I/O模式下，一个线程只能处理一个流的I/O事件。如果想要同时处理多

# 个流，要么多进程(fork)，要么多线程(pthread_create)，很不幸这两种方法效率都不高。

# 于是再来考虑非阻塞忙轮询的I/O方式，我们发现我们可以同时处理多个流了（把一个流从阻塞模式切换到非阻塞

# 模式再此不予讨论）：

# while true {

# for i in stream[]; {

# if i has data

# read until unavailable

# }

# }

# 我们只要不停的把所有流从头到尾问一遍，又从头开始。这样就可以处理多个流了，但这样的做法显然不好，因为

# 如果所有的流都没有数据，那么只会白白浪费CPU。这里要补充一点，阻塞模式下，内核对于I/O事件的处理是阻

# 塞或者唤醒，而非阻塞模式下则把I/O事件交给其他对象（后文介绍的select以及epoll）处理甚至直接忽略。

#

# 为了避免CPU空转，可以引进了一个代理（一开始有一位叫做select的代理，后来又有一位叫做poll的代理，不

# 过两者的本质是一样的）。这个代理比较厉害，可以同时观察许多流的I/O事件，在空闲的时候，会把当前线程阻

# 塞掉，当有一个或多个流有I/O事件时，就从阻塞态中醒来，于是我们的程序就会轮询一遍所有的流（于是我们可

# 以把“忙”字去掉了）。代码长这样:

# while true {

# select(streams[])

# for i in streams[] {

# if i has data

# read until unavailable

# }

# }

# 于是，如果没有I/O事件产生，我们的程序就会阻塞在select处。但是依然有个问题，我们从select那里仅仅知

# 道了，有I/O事件发生了，但却并不知道是那几个流（可能有一个，多个，甚至全部），我们只能无差别轮询所有流，

# 找出能读出数据，或者写入数据的流，对他们进行操作。

# 但是使用select，我们有O(n)的无差别轮询复杂度，同时处理的流越多，每一次无差别轮询时间就越长。再次

# 说了这么多，终于能好好解释epoll了

# epoll可以理解为event poll，不同于忙轮询和无差别轮询，epoll之会把哪个流发生了怎样的I/O事件通知我

# 们。此时我们对这些流的操作都是有意义的。

# 在讨论epoll的实现细节之前，先把epoll的相关操作列出：

# epoll_create 创建一个epoll对象，一般epollfd = epoll_create()

# epoll_ctl （epoll_add/epoll_del的合体），往epoll对象中增加/删除某一个流的某一个事件

# 比如

# epoll_ctl(epollfd, EPOLL_CTL_ADD, socket, EPOLLIN);//有缓冲区内有数据时epoll_wait返回

# epoll_ctl(epollfd, EPOLL_CTL_DEL, socket, EPOLLOUT);//缓冲区可写入时epoll_wait返回

# epoll_wait(epollfd,...)等待直到注册的事件发生

# （注：当对一个非阻塞流的读写发生缓冲区满或缓冲区空，write/read会返回-，并设置errno=EAGAIN。

# 而epoll只关心缓冲区非满和缓冲区非空事件）。

# 一个epoll模式的代码大概的样子是：

# while true {

# active_stream[] = epoll_wait(epollfd)

# for i in active_stream[] {

# read or write till unavailable

# }

# }

# 举个例子:

#    select:

#          班里三十个同学在考试,谁先做完想交卷都要通过按钮来活动,他按按钮作为老师的我桌子上的灯就会变红.

#          一旦灯变红,我(select)我就可以知道有人交卷了,但是我并不知道谁交的,所以,我必须跟个傻子似的轮询

#          地去问:嘿,是你要交卷吗?然后我就可以以这种效率极低地方式找到要交卷的学生,然后把它的卷子收上来.

#

#

#    epoll:

#         这次再有人按按钮,我这不光灯会亮,上面还会显示要交卷学生的名字.这样我就可以直接去对应学生那收卷就

#         好了.当然,同时可以有多人交卷.

# 在linux的IO多路复用中有水平触发,边缘触发两种模式,这两种模式的区别如下:

#

# 水平触发:如果文件描述符已经就绪可以非阻塞的执行IO操作了,此时会触发通知.允许在任意时刻重复检测IO的状态,

# 没有必要每次描述符就绪后尽可能多的执行IO.select,poll就属于水平触发.

#

# 边缘触发:如果文件描述符自上次状态改变后有新的IO活动到来,此时会触发通知.在收到一个IO事件通知后要尽可能

# 多的执行IO操作,因为如果在一次通知中没有执行完IO那么就需要等到下一次新的IO活动到来才能获取到就绪的描述

# 符.信号驱动式IO就属于边缘触发.

#

# epoll既可以采用水平触发,也可以采用边缘触发.

#

# 大家可能还不能完全了解这两种模式的区别,我们可以举例说明:一个管道收到了1kb的数据,epoll会立即返回,此时

# 读了512字节数据,然后再次调用epoll.这时如果是水平触发的,epoll会立即返回,因为有数据准备好了.如果是边

# 缘触发的不会立即返回,因为此时虽然有数据可读但是已经触发了一次通知,在这次通知到现在还没有新的数据到来,

# 直到有新的数据到来epoll才会返回,此时老的数据和新的数据都可以读取到(当然是需要这次你尽可能的多读取).

# 下面我们还从电子的角度来解释一下:

#

#     水平触发:也就是只有高电平()或低电平()时才触发通知,只要在这两种状态就能得到通知.上面提到的只要

# 有数据可读(描述符就绪)那么水平触发的epoll就立即返回.

#

#     边缘触发:只有电平发生变化(高电平到低电平,或者低电平到高电平)的时候才触发通知.上面提到即使有数据

# 可读,但是没有新的IO活动到来,epoll也不会立即返回.

水平触发和边缘触发

import time

import socket

sk = socket.socket(socket.AF_INET,socket.SOCK_STREAM)

sk.setsockopt

sk.bind(('127.0.0.1',))

sk.listen()

sk.setblocking(False)

while True:

    try:

        print ('waiting client connection .......')

        connection,address = sk.accept()   # 进程主动轮询

        print("+++",address)

        client_messge = connection.recv()

        print(str(client_messge,'utf8'))

        connection.close()

    except Exception as e:

        print (e)

        time.sleep()

#############################client

import time

import socket

sk = socket.socket(socket.AF_INET,socket.SOCK_STREAM)

while True:

    sk.connect(('127.0.0.1',))

    print("hello")

    sk.sendall(bytes("hello","utf8"))

    time.sleep()

    break

import socket

import select

sk=socket.socket()

sk.bind(("127.0.0.1",))

sk.listen()

while True:

    r,w,e=select.select([sk,],[],[],)

    for i in r:

        # conn,add=i.accept()

        #print(conn)

        print("hello")

    print('>>>>>>')

#*************************client.py

import socket

sk=socket.socket()

sk.connect(("127.0.0.1",))

while :

    inp=input(">>").strip()

    sk.send(inp.encode("utf8"))

    data=sk.recv()

    print(data.decode("utf8"))

select属于水平触发

#***********************server.py

import socket

import select

sk=socket.socket()

sk.bind(("127.0.0.1",))

sk.listen()

inputs=[sk,]

while True:

    r,w,e=select.select(inputs,[],[],)

    print(len(r))

    for obj in r:

        if obj==sk:

            conn,add=obj.accept()

            print(conn)

            inputs.append(conn)

        else:

            data_byte=obj.recv()

            print(str(data_byte,'utf8'))

            inp=input('回答%s号客户>>>'%inputs.index(obj))

            obj.sendall(bytes(inp,'utf8'))

    print('>>',r)

#***********************client.py

import socket

sk=socket.socket()

sk.connect(('127.0.0.1',))

while True:

    inp=input(">>>>")

    sk.sendall(bytes(inp,"utf8"))

    data=sk.recv()

    print(str(data,'utf8'))

#_*_coding:utf-8_*_

__author__ = 'Alex Li'

import select

import socket

import sys

import queue

# Create a TCP/IP socket

server = socket.socket(socket.AF_INET, socket.SOCK_STREAM)

server.setblocking(False)

# Bind the socket to the port

server_address = ('localhost', )

print(sys.stderr, 'starting up on %s port %s' % server_address)

server.bind(server_address)

# Listen for incoming connections

server.listen()

# Sockets from which we expect to read

inputs = [ server ]

# Sockets to which we expect to write

outputs = [ ]

message_queues = {}

while inputs:

    # Wait for at least one of the sockets to be ready for processing

    print( '\nwaiting for the next event')

    readable, writable, exceptional = select.select(inputs, outputs, inputs)

    # Handle inputs

    for s in readable:

        if s is server:

            # A "readable" server socket is ready to accept a connection

            connection, client_address = s.accept()

            print('new connection from', client_address)

            connection.setblocking(False)

            inputs.append(connection)

            # Give the connection a queue for data we want to send

            message_queues[connection] = queue.Queue()

        else:

            data = s.recv()

            if data:

                # A readable client socket has data

                print(sys.stderr, 'received "%s" from %s' % (data, s.getpeername()) )

                message_queues[s].put(data)

                # Add output channel for response

                if s not in outputs:

                    outputs.append(s)

            else:

                # Interpret empty result as closed connection

                print('closing', client_address, 'after reading no data')

                # Stop listening for input on the connection

                if s in outputs:

                    outputs.remove(s)  #既然客户端都断开了，我就不用再给它返回数据了，所以这时候如果这个客户端的连接对象还在outputs列表中，就把它删掉

                inputs.remove(s)    #inputs中也删除掉

                s.close()           #把这个连接关闭掉

                # Remove message queue

                del message_queues[s]

    # Handle outputs

    for s in writable:

        try:

            next_msg = message_queues[s].get_nowait()

        except queue.Empty:

            # No messages waiting so stop checking for writability.

            print('output queue for', s.getpeername(), 'is empty')

            outputs.remove(s)

        else:

            print( 'sending "%s" to %s' % (next_msg, s.getpeername()))

            s.send(next_msg)

    # Handle "exceptional conditions"

    for s in exceptional:

        print('handling exceptional condition for', s.getpeername() )

        # Stop listening for input on the connection

        inputs.remove(s)

        if s in outputs:

            outputs.remove(s)

        s.close()

        # Remove message queue

        del message_queues[s]

# select 模拟一个socket server，注意socket必须在非阻塞情况下才能实现IO多路复用。

# 接下来通过例子了解select 是如何通过单进程实现同时处理多个非阻塞的socket连接的。

#server端

import select

import socket

import queue

server = socket.socket()

server.bind(('localhost',))

server.listen()

server.setblocking(False)  # 设置成非阻塞模式，accept和recv都非阻塞

# 这里如果直接 server.accept() ，如果没有连接会报错，所以有数据才调他们

# BlockIOError：[WinError ] 无法立即完成一个非阻塞性套接字操作。

msg_dic = {}

inputs = [server,]  # 交给内核、select检测的列表。

# 必须有一个值，让select检测，否则报错提供无效参数。

# 没有其他连接之前，自己就是个socket，自己就是个连接，检测自己。活动了说明有链接

outputs = []  # 你往里面放什么，下一次就出来了

while True:

    readable, writeable, exceptional = select.select(inputs, outputs, inputs)  # 定义检测

    #新来连接                                        检测列表         异常（断开）

    # 异常的也是inputs是： 检测那些连接的存在异常

    print(readable,writeable,exceptional)

    for r in readable:

        if r is server:  # 有数据，代表来了一个新连接

            conn, addr = server.accept()

            print("来了个新连接",addr)

            inputs.append(conn)  # 把连接加到检测列表里，如果这个连接活动了，就说明数据来了

            # inputs = [server.conn] # 【conn】只返回活动的连接，但怎么确定是谁活动了

            # 如果server活动，则来了新连接，conn活动则来数据

            msg_dic[conn] = queue.Queue()  # 初始化一个队列，后面存要返回给这个客户端的数据

        else:

            try :

                data = r.recv()  # 注意这里是r，而不是conn，多个连接的情况

                print("收到数据",data)

                # r.send(data) # 不能直接发，如果客户端不收，数据就没了

                msg_dic[r].put(data)  # 往里面放数据

                outputs.append(r)  # 放入返回的连接队列里

            except ConnectionResetError as e:

                print("客户端断开了",r)

                if r in outputs:

                    outputs.remove(r) #清理已断开的连接

                inputs.remove(r) #清理已断开的连接

                del msg_dic[r] ##清理已断开的连接

    for w in writeable:  # 要返回给客户端的连接列表

        data_to_client = msg_dic[w].get()  # 在字典里取数据

        w.send(data_to_client)  # 返回给客户端

        outputs.remove(w)  # 删除这个数据，确保下次循环的时候不返回这个已经处理完的连接了。

    for e in exceptional:  # 如果连接断开，删除连接相关数据

        if e in outputs:

            outputs.remove(e)

        inputs.remove(e)

        del msg_dic[e]

#*************************client

import socket

client = socket.socket()

client.connect(('localhost', ))

while True:

    cmd = input('>>> ').strip()

    if len(cmd) ==  : continue

    client.send(cmd.encode('utf-8'))

    data = client.recv()

    print(data.decode())

client.close()

import selectors

import socket

sel = selectors.DefaultSelector()

def accept(sock, mask):

    conn, addr = sock.accept()  # Should be ready

    print('accepted', conn, 'from', addr)

    conn.setblocking(False)

    sel.register(conn, selectors.EVENT_READ, read)

def read(conn, mask):

    data = conn.recv()  # Should be ready

    if data:

        print('echoing', repr(data), 'to', conn)

        conn.send(data)  # Hope it won't block

    else:

        print('closing', conn)

        sel.unregister(conn)

        conn.close()

sock = socket.socket()

sock.bind(('localhost', ))

sock.listen()

sock.setblocking(False)

sel.register(sock, selectors.EVENT_READ, accept)

while True:

    events = sel.select()

    for key, mask in events:

        callback = key.data

        callback(key.fileobj, mask)