推荐收藏！数据分析必会的 10 个 python 库！_python数据分析库

大家好，今天给大家分享除了基本的 NumPy、Pandas 和 Matplotlib 之外的 10个流行的数据分析 Python 库。

文末提供资料和技术交流

Scikit-learn

Scikit-learn 是一个功能强大的机器学习库，为监督和无监督学习、模型选择和预处理提供了广泛的算法。Scikit-learn 简化了构建机器学习模型的过程，使其成为数据科学家和分析师的热门选择。

可以通过 pip 命令来进行安装。

pip install scikit-learn
1

以下是导入和使用 scikit-learn 的方法。

import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression

df = pd.read_csv('data.csv')
X = df.drop('target', axis=1)
y = df['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)
model = LogisticRegression().fit(X_train, y_train)
y_pred = model.predict(X_test)
1
2
3
4
5
6
7
8
9
10
11

Statsmodels

Statsmodels 是一个面向统计的模块，用于数据分析、统计推断和数据建模。它提供了模型拟合、假设检验等工具。Statsmodels 对于生成统计数据和假设检验结果特别有用。

同样，我们也可以直接使用 pip 来安装它。

pip install statsmodels
1

以下是导入和使用 Scipy 的方法。

import statsmodels.api as sm
import pandas as pd

df = pd.read_csv('data.csv')
model = sm.OLS(endog=df['target'], exog=df[['X1', 'X2']])
results = model.fit()
print(results.summary())
1
2
3
4
5
6
7

Scipy

SciPy 是基于 Python 的一个重要科学计算库，它构建在 NumPy 的基础上，提供了大量的数学算法和函数工具，主要用于科学和工程领域的计算。

要安装 Scipy，请在终端中运行以下命令。

pip install scipy
1

以下是导入和使用 Scipy 的方法。

import numpy as np
from scipy.optimize import minimize

def objective(x):
    return np.sum((x[0] - x[1])**2)

start = np.array([1, 1])
opt = minimize(objective, start, method='TNC')
print(opt.x)
1
2
3
4
5
6
7
8
9

TensorFlow

TensorFlow 是一个开源平台，用于构建机器学习模型以及训练、评估和部署它们。它使用 GPU 和 TPU 提供加速计算，并支持跨多个 CPU、GPU 或 TPU 设备进行分布式训练。

以下是导入和使用 TensorFlow 的方法。

import tensorflow as tf

model = tf.keras.Sequential([
     tf.keras.layers.Dense(64, input_shape=(1000,)),
     tf.keras.layers.Dense(1),
     tf.keras.layers.Activation('sigmoid')
 ])
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])
model.fit(x_train, y_train, epochs=100, validation_split=0.2)
1
2
3
4
5
6
7
8
9

Keras

Keras 是一个开源神经网络库，用 Python 编写，能够在 TensorFlow 和 CNTK 上运行。它提供了更高层次的抽象，可以快速高效地构建深度学习模型。

以下是导入和使用 Keras 的方法。

import keras
from keras.models import Sequential
from keras.layers import Dense

model = Sequential()
model.add(Dense(64, input_shape=(1000,)))
model.add(Dense(1))
model.add(Dense(1, activation='sigmoid'))
model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])
model.fit(x_train, y_train, epochs=100, validation_split=0.2)
1
2
3
4
5
6
7
8
9
10

PyTorch

PyTorch 是一个开源的机器学习库，广泛用于计算机视觉和自然语言处理等应用领域。PyTorch 以其易于使用和灵活性而闻名，特别适用于深度学习和神经网络的研究与开发。

以下是导入和使用 PyTorch 的方法。

import torch
import torch.nn as nn
import torch.optim as optim

# 创建一个简单的线性模型
model = nn.Linear(in_features=1, out_features=1)

# 定义损失函数和优化器
criterion = nn.MSELoss()
optimizer = optim.SGD(model.parameters(), lr=0.01)

# 示例数据
x_train = torch.tensor([[1.0], [2.0], [3.0]])
y_train = torch.tensor([[2.0], [4.0], [6.0]])

# 训练模型
for epoch in range(1000):
    model.train()
    optimizer.zero_grad()
    
    # 正向传播
    y_pred = model(x_train)
    
    # 计算损失
    loss = criterion(y_pred, y_train)
    
    # 反向传播和优化
    loss.backward()
    optimizer.step()

# 测试模型
model.eval()
with torch.no_grad():
    y_pred = model(torch.tensor([[4.0]]))
    print(y_pred)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35

PySpark

PySpark 是 Apache Spark 的 Python 模块。它提供了用于大数据处理的 Python 高级 API，并支持关系数据源和 NoSQL 数据源。PySpark 提供丰富的数据框架和 SQL 功能。

import pyspark.sql.functions as F

df = spark.createDataFrame([(1, 'A'), (2, 'B'), (3, 'C'), (4, 'B')], ['id', 'word'])
result = df.groupBy('word').count().orderBy('count', ascending=False)
result.show()
1
2
3
4
5

Requests

Requests 是一种发送 HTTP 请求并处理其响应的简单、灵活且可重用的方式。它提供了对类 UNIX 代码定制和技术的快速访问。

要安装 Requests，请在终端中运行以下命令。

pip install requests
1

以下是导入和使用请求的方法。

import requests
response = requests.get('https://example.com')
print(response.status_code)
1
2
3

BeautifulSoup

BeautifulSoup 是一个用于从 HTML 和 XML 文档中提取数据的 Python 库。它创建了文档的解析树，使得用户可以方便地提取数据。

要安装 BeautifulSoup，请在终端中运行以下命令。

pip install beautifulsoup4
1

以下是导入和使用 BeautifulSoup 的方法。

from bs4 import BeautifulSoup

html = '<ul><li>1</li><li>2</li><li>3</li></ul>'
soup = BeautifulSoup(html, 'html.parser')
li_list = soup.find_all('li')
for li in li_list:
    print(li.get_text())
1
2
3
4
5
6
7

Flask

Flask 是一个用 Python 编写的轻量级 Web 应用框架。它被广泛用于快速开发简单的网站和 API。

from flask import Flask

app = Flask(__name__)
@app.route('/')
def hello():
     return 'Hello, World!'
app.run()
1
2
3
4
5
6
7

技术交流

独学而无优则孤陋而寡闻，技术要学会交流、分享，不建议闭门造车。

技术交流与答疑、源码获取，均可加交流群获取，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友。

方式①、微信搜索公众号：Python学习与数据挖掘，后台回复：交流
方式②、添加微信号：dkl88194，备注：交流

资料1

资料2
我们打造了《数据分析实战案例宝典》，特点：从0到1轻松学习，方法论及原理、代码、案例应有尽有，所有案例都是按照这样的节奏进行表述。