数据结构与算法（Python）更新中

一、引入

先来看一道题:

如果 a+b+c=1000，且 a^2+b^2=c^2（a,b,c 为自然数），如何求出所有a、b、c可能的组合?

枚举法：

# 如果 a+b+c=1000，且 a^2+b^2=c^2（a,b,c 为自然数），如何求出所有a、b、c可能的组合?
import time

# 枚举法
start_time = time.time()
for a in range(1001):
    for b in range(1001):
        for c in range(1001):
            if a+b+c == 1000 and a**2+b**2 == c**2:
                print(f"a,b,c: {a}, {b}, {c}")
end_time = time.time()
print(f"times: {end_time-start_time}")
print("finished")
# 占位符 %d：print("a,b,c:%d, %d, %d" % (a,b,c))
# %d 是一种格式说明符，表示要插入的值是一个整数（decimal）。在这里，%d 将会被 a、b 和 c 的值替代。
# 这种格式化方式在 Python 3 中仍然有效，但较新的 Python 版本推荐使用 str.format() 方法或 f-string（在 Python 3.6 及以上版本中）来进行字符串格式化，因为它们更灵活、更易读。


# 输出结果
a,b,c: 0, 500, 500
a,b,c: 200, 375, 425
a,b,c: 375, 200, 425
a,b,c: 500, 0, 500
times: 222.66843032836914
finished

算法的提出：

算法是计算机处理信息的本质,因为计算机程序本质上是一个算法来告诉计算机确切的步骤来执行一个指定的任务。一般地,当算法在处理信息时,会从输入设备或数据的存储地址读取数据,把结果写入输出设备或某个存储地址供以后再调用。

算法是独立存在的一种解决问题的方法和思想。对于算法而言,实现的语言并不重要,重要的是思想。算法可以有不同的语言描述实现版本(如C描述、C++描述、Python描述等),我们现在是在用Python语言进行描述实现。

算法的五大特性

1.输入:算法具有0个或多个输入
2.输出:算法至少有1个或多个输出
3.有穷性:算法在有限的步骤之后会自动结束而不会无限循环,并且每一个步骤可以在可接受的时间内完成
4.确定性:算法中的每一步都有确定的含义,不会出现二义性
5.可行性:算法的每一步都是可行的,也就是说每一步都能够执行有限的次数完成

# 改进
start_time = time.time()
for a in range(1001):
    for b in range(1001-a):
        c = 1000-a-b
        if  a**2+b**2 == c**2:
            print(f"a,b,c: {a}, {b}, {c}")
end_time = time.time()
print(f"times: {end_time-start_time}")
print("finished")


a,b,c: 0, 500, 500
a,b,c: 200, 375, 425
a,b,c: 375, 200, 425
a,b,c: 500, 0, 500
times: 0.5711722373962402
finished

算法效率衡量

时间复杂度与“大O记法”

我们假定计算机执行算法每一个基本操作的时间是固定的一个时间单位，那么有多少个基本操作就代表会花费多少时间单位。算然对于不同的机器环境而言，确切的单位时间是不同的，但是对于算法进行多少个基本操作（即花费多少时间单位）在规模数量级上却是相同的，由此可以忽略机器环境的影响而客观的反应算法的时间效率。

对于算法的时间效率，我们可以用“大O记法”来表示。

“大O记法”：对于单调的整数函数f，如果存在一个整数函数g和实常数c>0，使得对于充分大的n总有f(n)<=c*g(n)，就说函数g是f的一个渐近函数（忽略常数），记为f(n)=O(g(n))。也就是说，在趋向无穷的极限意义下，函数f的增长速度受到函数g的约束，亦即函数f与函数g的特征相似。

时间复杂度：假设存在函数g，使得算法A处理规模为n的问题示例所用时间为T(n)=O(g(n))，则称O(g(n))为算法A的渐近时间复杂度，简称时间复杂度，记为T(n)

如何理解“大O记法”

对于算法进行特别具体的细致分析虽然很好，但在实践中的实际价值有限。对于算法的时间性质和空间性质，最重要的是其数量级和趋势，这些是分析算法效率的主要部分。而计量算法基本操作数量的规模函数中那些常量因子可以忽略不计。例如，可以认为3n^2和100n^2属于同一个量级，如果两个算法处理同样规模实例的代价分别为这两个函数，就认为它们的效率“差不多”，都为n^2级。

最坏时间复杂度

分析算法时，存在几种可能的考虑：

算法完成工作最少需要多少基本操作，即最优时间复杂度
算法完成工作最多需要多少基本操作，即最坏时间复杂度
算法完成工作平均需要多少基本操作，即平均时间复杂度

对于最优时间复杂度，其价值不大，因为它没有提供什么有用信息，其反映的只是最乐观最理想的情况，没有参考价值。

对于最坏时间复杂度，提供了一种保证，表明算法在此种程度的基本操作中一定能完成工作。

对于平均时间复杂度，是对算法的一个全面评价，因此它完整全面的反映了这个算法的性质。但另一方面，这种衡量并没有保证，不是每个计算都能在这个基本操作内完成。而且，对于平均情况的计算，也会因为应用算法的实例分布可能并不均匀而难以计算。

因此，我们主要关注算法的最坏情况，亦即最坏时间复杂度。

时间复杂度的几条基本计算规则

基本操作，即只有常数项，认为其时间复杂度为O(1)
顺序结构，时间复杂度按加法进行计算
循环结构，时间复杂度按乘法进行计算
分支结构，时间复杂度取最大值
判断一个算法的效率时，往往只需要关注操作数量的最高次项，其它次要项和常数项可忽略
在没有特殊说明时，我们所分析的算法的时间复杂度都是指最坏时间复杂度

Python内置类型性能分析

timeit模块

timeit模块可以用来测试一小段Python代码的执行速度。

class timeit.Timer(stmt='pass', setup='pass', timer=<timer function>)

Timer是测量小段代码执行速度的类。

stmt参数是要测试的代码语句（statment）；

setup参数是运行代码时需要的设置；

timer参数是一个定时器函数，与平台有关。

timeit.Timer.timeit(number=1000000)

Timer类中测试语句执行速度的对象方法。number参数是测试代码时的测试次数，默认为1000000次。方法返回执行代码的平均耗时，一个float类型的秒数。

import timeit
from timeit import Timer
def test1():
    li = []
    for i in range(10000):
        li.append(i) # 只能接受单个元素，只能忘尾部添加
def test2():
    li = []
    for i in range(10000):
        li += [i] # 准备一个新的空列表，把两部分连接
# 避免直接使用+  li = li +[i]巨慢; +=优化

def test3():
    li = [i for i in range(10000)]
def test4():
    li = list(range(10000))
def test5(): # 比test2
    li = []
    for i in range(10000):
        li.extend([i]) # 在li原列表基础上添加；添加的为列表
def test6():
    li = []
    for i in range(10000):
        li.insert(0,i) # 参数0，往列表头部添加元素 相比于test1要慢很多！！！！
        
            
timer1 = Timer("test1()","from __main__ import test1")
print(f"append: {timer1.timeit(1000)}")
timer2 = Timer("test2()","from __main__ import test2")
print(f"+: {timer2.timeit(1000)}")
timer3 = Timer("test3()","from __main__ import test3")
print(f"i for i in range: {timer3.timeit(1000)}")
timer4 = Timer("test4()","from __main__ import test4")
print(f"list(range: {timer4.timeit(1000)}")
timer5 = Timer("test5()","from __main__ import test5")
print(f"li.extend: {timer4.timeit(1000)}")
timer6 = Timer("test6()","from __main__ import test6")
print(f"li.insert: {timer6.timeit(1000)}")




# 结果
# append: 0.783258
# +: 0.9257340000000001
# i for i in range: 0.5268818
# list(range: 0.2594387
# li.extend: 0.2922925000000003
# li.insert: 34.994001499999996




## pop操作测试
x = list(range(2000000))
pop_zero = Timer("x.pop(0)","from __main__ import x")
print("pop_zero ",pop_zero.timeit(number=1000), "seconds")
x = list(range(2000000))
pop_end = Timer("x.pop()","from __main__ import x")
print("pop_end ",pop_end.timeit(number=1000), "seconds")
# pop_zero  2.5900122000000003 seconds
# pop_end  8.770000000035694e-05 seconds
# 测试pop操作：从结果可以看出，pop最后一个元素的效率远远高于pop第一个元素

数据结构

我们如何用Python中的类型来保存一个班的学生信息？如果想要快速的通过学生姓名获取其信息呢？

实际上当我们在思考这个问题的时候，我们已经用到了数据结构。列表和字典都可以存储一个班的学生信息，但是想要在列表中获取一名同学的信息时，就要遍历这个列表，其时间复杂度为O(n)，而使用字典存储时，可将学生姓名作为字典的键，学生信息作为值，进而查询时不需要遍历便可快速获取到学生信息，其时间复杂度为O(1)。

我们为了解决问题，需要将数据保存下来，然后根据数据的存储方式来设计算法实现进行处理，那么数据的存储方式不同就会导致需要不同的算法进行处理。我们希望算法解决问题的效率越快越好，于是我们就需要考虑数据究竟如何保存的问题，这就是数据结构。

在上面的问题中我们可以选择Python中的列表或字典来存储学生信息。列表和字典就是Python内建帮我们封装好的两种数据结构。

概念

数据是一个抽象的概念，将其进行分类后得到程序设计语言中的基本类型。如：int，float，char等。数据元素之间不是独立的，存在特定的关系，这些关系便是结构。数据结构指数据对象中数据元素之间的关系。

Python给我们提供了很多现成的数据结构类型，这些系统自己定义好的，不需要我们自己去定义的数据结构叫做Python的内置数据结构，比如列表、元组、字典。而有些数据组织方式，Python系统里面没有直接定义，需要我们自己去定义实现这些数据的组织方式，这些数据组织方式称之为Python的扩展数据结构，比如栈，队列等。

Python 中常用的数据结构

在 Python 中，有几种常用的数据结构，各自适用于不同的场景。以下是一些主要的数据结构及其特点：

列表（List）：

用法：存储有序的可变集合。
语法：my_list = [1, 2, 3]
特点：支持重复元素，支持索引、切片等操作，使用动态数组实现。

元组（Tuple）：

用法：存储有序的不可变集合。
语法：my_tuple = (1, 2, 3)
特点：不可修改，支持索引和切片，通常用于需要保护数据的场合。

集合（Set）：

用法：存储唯一的无序集合。
语法：my_set = {1, 2, 3}
特点：不支持重复元素，支持集合操作（如交集、并集），适合用于去重。

字典（Dictionary）：

用法：存储键值对的可变集合。
语法：my_dict = {'key1': 'value1', 'key2': 'value2'}
特点：键唯一且不可变，支持快速查找，适合存储关联数据。

字符串（String）：

用法：存储字符序列。
语法：my_string = "Hello, World!"
特点：不可变，支持索引、切片、拼接等操作。

队列（Queue）（使用 collections.deque）：

用法：先进先出（FIFO）集合。
语法：from collections import deque; my_queue = deque()
特点：高效的从两端添加和删除元素。

栈（Stack）（使用列表或 collections.deque）：

用法：后进先出（LIFO）集合。
语法：使用列表的 append() 和 pop() 方法。
特点：操作简单，支持入栈和出栈。

算法与数据结构的区别

数据结构只是静态的描述了数据元素之间的关系。

高效的程序需要在数据结构的基础上设计和选择算法。

程序 = 数据结构 + 算法

总结：算法是为了解决实际问题而设计的，数据结构是算法需要处理的问题载体

抽象数据类型(Abstract Data Type)

抽象数据类型(ADT)的含义是指一个数学模型以及定义在此数学模型上的一组操作。即把数据类型和数据类型上的运算捆在一起，进行封装。引入抽象数据类型的目的是把数据类型的表示和数据类型上运算的实现与这些数据类型和运算在程序中的引用隔开，使它们相互独立。

最常用的数据运算有五种：

插入
删除
修改
查找
排序

二、顺序表

在程序中，经常需要将一组（通常是同为某个类型的）数据元素作为整体管理和使用，需要创建这种元素组，用变量记录它们，传进传出函数等。一组数据中包含的元素个数可能发生变化（可以增加或删除元素）。

对于这种需求，最简单的解决方案便是将这样一组元素看成一个序列，用元素在序列里的位置和顺序，表示实际应用中的某种有意义的信息，或者表示数据之间的某种关系。

这样的一组序列元素的组织形式，我们可以将其抽象为线性表。一个线性表是某类元素的一个集合，还记录着元素之间的一种顺序关系。线性表是最基本的数据结构之一，在实际程序中应用非常广泛，它还经常被用作更复杂的数据结构的实现基础。

内存（硬件）：是一个连续的存储空间，以一个字节(八位)为基本存储单位，标识为一个物理地址。对于32位机器，整型int占4个字节，需要转化为二进制，1 ——> 0000 0000 0000 0001 ；类型char占1个字节

根据线性表的实际存储方式，分为两种实现模型：

顺序表，将元素顺序地存放在一块连续的存储区里，元素间的顺序关系由它们的存储顺序自然表示。
链表，将元素存放在通过链接构造起来的一系列存储块中。

顺序表的基本形式

图a表示的是顺序表的基本形式，数据元素本身连续存储，每个元素所占的存储单元大小固定相同，元素的下标是其逻辑地址，而元素存储的物理地址（实际内存地址）可以通过存储区的起始地址Loc (e0)加上逻辑地址（第i个元素）与存储单元大小（c）的乘积计算而得，即：

Loc(ei) = Loc(e0) + c*i

故，访问指定元素时无需从头遍历，通过计算便可获得对应地址，其时间复杂度为O(1)。

如果元素的大小不统一，则须采用图b的元素外置的形式，将实际数据元素另行存储，而顺序表中各单元位置保存对应元素的地址信息（即链接）。由于每个链接所需的存储量相同，通过上述公式，可以计算出元素链接的存储位置，而后顺着链接找到实际存储的数据元素。注意，图b中的c不再是数据元素的大小，而是存储一个链接地址所需的存储量，这个量通常很小。

图b这样的顺序表也被称为对实际数据的索引，这是最简单的索引结构。

总结：

1、列表/元组元素数据类型统一使用顺序表，向操作系统申请会返回连续的存储空间，将元素按顺序存储，每个元素对应一个物理地址。列表/元组名指向是第一个物理地址，从而列表/元组第i个元素是li[i-1]，i-1是元素存储空间相对于第一个地址的偏移量。

2、列表/元组元素数据类型不统一，向操作系统申请会返回不连续的存储空间，将不同存储空间的物理地址（链接）视为字符，一次性向操作系统申请返回连续的存储空间，将链接存储到顺序表，此时列表/元组名指向顺序表的第一个物理地址。

顺序表的结构与实现

顺序表的结构

一个顺序表的完整信息包括两部分，一部分是表中的元素集合，另一部分是为实现正确操作而需记录的信息，即有关表的整体情况的信息，这部分信息（表头信息）主要包括元素存储区的容量和当前表中已有的元素个数两项。

顺序表的两种基本实现方式

图a为一体式结构，存储表信息的单元与元素存储区以连续的方式安排在一块存储区里，两部分数据的整体形成一个完整的顺序表对象。

一体式结构整体性强，易于管理。但是由于数据元素存储区域是表对象的一部分，顺序表创建后，元素存储区就固定了。

图b为分离式结构，表对象里只保存与整个表有关的信息（即容量和元素个数），实际数据元素存放在另一个独立的元素存储区里，通过链接（物理地址）与基本表对象关联。

元素存储区替换

一体式结构由于顺序表信息区与数据区连续存储在一起，所以若想更换数据区，则只能整体搬迁，即整个顺序表对象（指存储顺序表的结构信息的区域）改变了。

分离式结构若想更换数据区，只需将表信息区中的数据区链接地址更新即可，而该顺序表对象不变。

元素存储区扩充

采用分离式结构的顺序表，若将数据区更换为存储空间更大的区域，则可以在不改变表对象的前提下对其数据存储区进行了扩充，所有使用这个表的地方都不必修改。只要程序的运行环境（计算机系统）还有空闲存储，这种表结构就不会因为满了而导致操作无法进行。人们把采用这种技术实现的顺序表称为动态顺序表，因为其容量可以在使用中动态变化。

扩充的两种策略

每次扩充增加固定数目的存储位置，如每次扩充增加10个元素位置，这种策略可称为线性增长。

特点：节省空间，但是扩充操作频繁，操作次数多。
每次扩充容量加倍，如每次扩充增加一倍存储空间。

特点：减少了扩充操作的执行次数，但可能会浪费空间资源。以空间换时间，推荐的方式。

顺序表的操作

增加元素

a. 尾端加入元素，时间复杂度为O(1)

b. 非保序的加入元素（不常见），时间复杂度为O(1)

c. 保序的元素加入，时间复杂度为O(n)

删除元素

a. 删除表尾元素，时间复杂度为O(1)

b. 非保序的元素删除（不常见），时间复杂度为O(1)

c. 保序的元素删除，时间复杂度为O(n)

class SequenceList:
    def __init__(self):
        self.elements = []

    def add_tail(self, element):
        # 尾端加入元素，O(1)
        self.elements.append(element)

    def add_unsorted(self, element):
        # 非保序的加入元素，O(1)
        self.elements.append(element)

    def add_sorted(self, element):
        # 保序的元素加入，O(n)
        self.elements.append(element)
        self.elements.sort()

    def remove_tail(self):
        # 删除表尾元素，O(1)
        if self.elements:
            self.elements.pop()

    def remove_unsorted(self, element):
        # 非保序的元素删除，O(1)
        self.elements.remove(element)

    def remove_sorted(self, element):
        # 保序的元素删除，O(n)
        if element in self.elements:
            self.elements.remove(element)
            self.elements.sort()

Python中的顺序表

Python中的list和tuple两种类型采用了顺序表的实现技术，具有前面讨论的顺序表的所有性质。

tuple是不可变类型，即不变的顺序表，因此不支持改变其内部状态的任何操作，而其他方面，则与list的性质类似。

list的基本实现技术

Python标准类型list就是一种元素个数可变的线性表，可以加入和删除元素，并在各种操作中维持已有元素的顺序（即保序），而且还具有以下行为特征：

基于下标（位置）的高效元素访问和更新，时间复杂度应该是O(1)；

为满足该特征，应该采用顺序表技术，表中元素保存在一块连续的存储区中。
允许任意加入元素，而且在不断加入元素的过程中，表对象的标识（函数id得到的值）不变。

为满足该特征，就必须能更换元素存储区，并且为保证更换存储区时list对象的标识id不变，只能采用分离式实现技术。

在Python的官方实现中，list就是一种采用分离式技术实现的动态顺序表。这就是为什么用list.append(x) （或 list.insert(len(list), x)，即尾部插入O(1) ）比在指定位置插入元素O(n)效率高的原因。

在Python的官方实现中，list实现采用了如下的策略：在建立空表（或者很小的表）时，系统分配一块能容纳8个元素的存储区；在执行插入操作（insert或append）时，如果元素存储区满就换一块4倍大的存储区。但如果此时的表已经很大（目前的阀值为50000），则改变策略，采用加一倍的方法。引入这种改变策略的方式，是为了避免出现过多空闲的存储位置。