用Python进行抽样的步骤:
第1部分:导入需要的库
import random # 导入标准库 import numpy as np # 导入第三方库
这里用到了Python内置标准库random以及第三方库Numpy,前者用于做随机抽样,后者用于读取文件并做数据切片使用。
第2部分:实现简单随机抽样
data = np.loadtxt('data3.txt') # 导入普通数据文件 data_sample = data[random.sample([i for i in range(len(data))], 2000)] # 随机抽取2000个样本 print(data_sample[:2]) # 打印输出前2条数据 print(len(data_sample)) # 打印输出抽样样本量
首先通过Numpy的loadtxt方法读取数据文件。
然后使用Random库中的sample方法做数据抽样。
由于sample库要求抽取的对象是一个序列或set,因此这里使用了一个列表推导式直接基于data数据集的记录数生成索引列表,
然后再返回给sample随机抽样,抽样数量为2000;最后从data中直接基于索引获得随机抽样后的结果。
打印输出前2条数据和总抽样样本量。返回结果如下:
[[-4.59501348 8.82741653 4.40096599 3.40332532 -6.54589933] [-7.23173404 -8.92692519 6.82830873 3.0378005 4.64450399]] 2000
第3部分:传统方法
ind = [] for i in range(len(data)): ind.append(i)
而这里的列表推导式的写法[i for i in range(len(data))]除了在语法上更加简洁和优雅外,在性能上同样会有提升。
我们通过如下实验做简单测试,对从0到1000000的每个数求平方然后添加到列表。两种方法如下:
# 方法1:传统方法 import time t0=time.time() # 开始时间 ind = [] for i in range(1000000): sqr_values = i*i ind.append(sqr_values) t1 = time.time() # 结束时间 print(t1-t0) # 打印时间 # 方法2:列表推导式 import time t0=time.time() # 开始时间 sqr_values = [i*i for i in range(1000000)] t1 = time.time() # 结束时间 print(t1-t0) # 打印时间
上述代码执行后的输出结果分别是:
0.39202237129211426 0.12700724601745605
上面只是简单的计算逻辑并且数据量也不大,
如果配合大数据量以及更复杂的运算,
那么效率提升会非常明显。