我們總說(shuō)“不要重復(fù)發(fā)明輪子”，python 中的第 3 方工具庫(kù)就是最好的例子。借助它們，我們可以用簡(jiǎn)單的方式編寫(xiě)復(fù)雜且耗時(shí)的代碼。在本篇內(nèi)容中給大家整理了 7 個(gè)有用的 Python 庫(kù)，如果大家從事機(jī)器學(xué)習(xí)工作，一定要來(lái)一起了解一下。1.Prophet

Prophet是 Facebook 開(kāi)源的時(shí)間序列預(yù)測(cè)工具庫(kù)，基于 Stan 框架，可以自動(dòng)檢測(cè)時(shí)間序列中的趨勢(shì)、周期性和節(jié)假日效應(yīng)，并根據(jù)這些信息進(jìn)行預(yù)測(cè)。這個(gè)庫(kù)在 GitHub 上有超過(guò) 15k 星。

Prophet 通常用于預(yù)測(cè)未來(lái)幾個(gè)月、幾年或幾十年的時(shí)間序列數(shù)據(jù)，例如銷(xiāo)售額、市場(chǎng)份額等。它提供了 Python 和 R 兩個(gè)版本，可以跨平臺(tái)使用，支持 CPU 和 GPU 的并行運(yùn)算。Prophet 的輸入數(shù)據(jù)格式要求是一個(gè)包含時(shí)間戳和目標(biāo)值的數(shù)據(jù)框，并支持給定時(shí)間范圍、預(yù)測(cè)期限和寬限期等參數(shù)進(jìn)行預(yù)測(cè)。Prophet 對(duì)缺失數(shù)據(jù)和趨勢(shì)變化很穩(wěn)健，通常可以很好地處理異常值。

# Pythonforecast = m.predict(future)forecast[['ds', 'yhat', 'yhat_lower', 'yhat_upper']].tail()

2.Deep Lake

Deep Lake是一種數(shù)據(jù)集格式，提供簡(jiǎn)單的 API 以用于創(chuàng)建、存儲(chǔ)和協(xié)作處理任何規(guī)模的 AI 數(shù)據(jù)集。這個(gè)庫(kù)在 GitHub 上有超過(guò) 5k 星。Deep Lake 的數(shù)據(jù)布局可以在大規(guī)模訓(xùn)練模型的同時(shí)，實(shí)現(xiàn)數(shù)據(jù)的快速轉(zhuǎn)換和流式傳輸。谷歌、Waymo、紅十字會(huì)、牛津大學(xué)等都在使用 Deep Lake。

for epoch in range(2):    running_loss = 0.0    for i, data in enumerate(deeplake_loader):    images, labels = data['images'], data['labels']     # zero the parameter gradients    optimizer.zero_grad()     # forward + backward + optimize    outputs = net(images)    loss = criterion(outputs, labels.reshape(-1))    loss.backward()    optimizer.step()     # print statistics    running_loss += loss.item()    if i % 100 == 99: #print every 100 mini-batches        print('[%d, %5d] loss: %.3f' %        (epoch + 1, i + 1, running_loss / 100))        running_loss = 0.0

3.Optuna

Optuna 是一個(gè)自動(dòng)機(jī)器學(xué)習(xí)超參數(shù)調(diào)優(yōu)工具，可以幫助用戶(hù)通過(guò)使用各種規(guī)則自動(dòng)調(diào)整機(jī)器學(xué)習(xí)模型的超參數(shù)，以提高模型的性能。這個(gè)庫(kù)在 GitHub 上擁有超過(guò) 7k 顆星。

Optuna 使用了貝葉斯優(yōu)化算法來(lái)自動(dòng)調(diào)整超參數(shù)，并使用基于樹(shù)的方法來(lái)探索參數(shù)空間。這使得 Optuna 能夠在訓(xùn)練機(jī)器學(xué)習(xí)模型時(shí)自動(dòng)進(jìn)行超參數(shù)調(diào)整，從而提高模型的性能。Optuna 可以與各種機(jī)器學(xué)習(xí)框架集成使用，包括 TensorFlow、PyTorch、XGBoost 等。它還支持多種優(yōu)化目標(biāo)，包括最小化損失函數(shù)、最大化準(zhǔn)確率等。總的來(lái)說(shuō)，Optuna是一個(gè)強(qiáng)大的工具，可以幫助用戶(hù)提高機(jī)器學(xué)習(xí)模型的性能，提高模型的準(zhǔn)確率。它的易用性和可擴(kuò)展性使它成為機(jī)器學(xué)習(xí)工作流中的一個(gè)重要工具。

import ... # Define an objective function to be minimized.def objective(trial):     # Invoke suggest methods of a Trial object to generate hyperparameters     regressor_name = trial.suggest_categorical('regressor',['SVR', 'RandomForest'])    if regressor_name = 'SVR':        svr_c = trial.suggest_float('svr_c', 1e-10, 1e10, log=True)        regressor_obj = sklearn.svm.SVR(C=svr_c)    else:        rf_max_depth = trial.suggest_int('rf_max_depth', 2, 332)        regressor_obj = sklearn.ensemble.RandomForestRegressor(max_depth=rf_max_depth)     X, y = sklearn.datasets.fetch_california_housing(return_X_y=True)    X_train, X_val, y_train, y_val = sklearn.model_selection.train_test_split(X, y, random_state=0)     regressor_obj.fit(X_train, y_train) y_pred = regressor_obj.predict(X_val)     error = sklearn.metrics.mean_squared_error(y_val, y_pred)     return error # An objective value linked with the Trial object. study = optuna.create_study() # Create a neW studystudy.optimize(objective, n_trials=100) # Invoke opotimization of the objective function

4.pycm

pycm是一個(gè)用于計(jì)算二分類(lèi)和多分類(lèi)指標(biāo)的 Python 庫(kù)。這個(gè)庫(kù)在 GitHub 上有超過(guò) 1k 星。

它可以計(jì)算多種常用的指標(biāo)，包括準(zhǔn)確率、召回率、F1值、混淆矩陣等。此外，pycm 還提供了一些額外的功能，例如可視化混淆矩陣、評(píng)估模型性能的指標(biāo)來(lái)源差異等。pycm是一個(gè)非常實(shí)用的庫(kù)，可以幫助快速評(píng)估模型的性能。

from pycm import *y_actu = [2, 0, 2, 2, 0, 1, 1, 2, 2, 0, 1, 2] y_pred = [0, 0, 2, 1, 0, 2, 1, 0, 2, 2, 2, 2] cm = ConfusionMatrix(actual_vector=y_actu, predict_vector=y_pred) cm.classes cm.print_matrix()  cm.print_normalized_matrix()

5.NannyML

NannyML是一個(gè)開(kāi)源的 Python 庫(kù)，允許估算部署后的模型性能（而無(wú)需訪問(wèn)目標(biāo)），檢測(cè)數(shù)據(jù)漂移，并智能地將數(shù)據(jù)漂移警報(bào)鏈接回模型性能的變化。這個(gè)庫(kù)在 GitHub 上有超過(guò) 1k 星。

為數(shù)據(jù)科學(xué)家設(shè)計(jì)的 NannyML 具有易于使用的交互式可視化界面，目前支持所有表格式的用例（tabular use cases）、分類(lèi)（classification）和回歸（regression）。NannyML 的核心貢獻(xiàn)者研發(fā)了多種用于估算模型性能的新算法：基于信心的性能估算（CBPE）與直接損失估算（DLE）等。NannyML 通過(guò)構(gòu)建“性能監(jiān)控+部署后數(shù)據(jù)科學(xué)”的閉環(huán)，使數(shù)據(jù)科學(xué)家能夠快速理解并自動(dòng)檢測(cè)靜默模型故障。通過(guò)使用 NannyML，數(shù)據(jù)科學(xué)家最終可以保持對(duì)他們部署的機(jī)器學(xué)習(xí)模型的完全可見(jiàn)性和信任。

import nannyml as nmlfrom IPython.display import display # Load synthetic data reference, analysis, analysis_target = nml.load_synthnetic_binary_classification_dataset()display(reference.head())display(analysis.head()) # Choose a chunker or set a chunk sizechunk size = 5000 # initialize, specify required data columns,, fit estimator and estimateestimator = nml.CBPE(    y_pred_proba='y_pred_proba',    y_pred='y_pred',    y_true='work_home_actual',    metrics=['roc_auc'],    chunk_size=chunk_size,    problem_type='classification_binary',)estimator = estimator.fit(reference)estimated_performance = estimator.estimate(analysis) # Show resultsfigure = estimated_performance.plot(kind='performance', metric='roc_auc', plot_reference=True)figure.show()

6.ColossalAI

ColossalAI是一個(gè)開(kāi)源機(jī)器學(xué)習(xí)工具庫(kù)，用于構(gòu)建和部署高質(zhì)量的深度學(xué)習(xí)模型。這個(gè)庫(kù)在 GitHub 上有超過(guò) 6.5k 星。

ColossalAI 提供了一系列預(yù)定義的模型和模型基礎(chǔ)架構(gòu)，可用于快速構(gòu)建和訓(xùn)練模型。它還提供了一系列工具，用于模型評(píng)估，調(diào)優(yōu)和可視化，以確保模型的高質(zhì)量和準(zhǔn)確性。此外，ColossalAI 還支持部署模型，使其能夠通過(guò)各種不同的接口與其他系統(tǒng)集成。ColossalAI 的優(yōu)勢(shì)在于它易于使用，可以為數(shù)據(jù)科學(xué)家和機(jī)器學(xué)習(xí)工程師提供快速和有效的方法來(lái)構(gòu)建和部署高質(zhì)量的大型模型。

from colossalai.logging import get_dist_loggerfrom colossalai.trainer import Trainer, hooks # build components and initialize with colossaalai.initialize... # create a logger so that trainer can log on thhe consolelogger = get_dist_logger() # create a trainer objecttrainer = Trainer(    engine=engine,    logger=logger)

7.emcee

emcee是一個(gè)開(kāi)源的 Python 庫(kù)，用于使用 Markov chain Monte Carlo（MCMC）方法進(jìn)行模型擬合和參數(shù)估計(jì)。這個(gè)庫(kù)在 GitHub 上有超過(guò) 1k 星。

emcee 是面向?qū)ο蟮模⑶揖哂杏糜谠\斷和調(diào)試擬合過(guò)程的許多工具。它使用了一種叫做"決策樹(shù)結(jié)構(gòu)鏈"的方法，可以并行化擬合過(guò)程，提高擬合效率。emcee 非常適合處理復(fù)雜的非線(xiàn)性模型，并且可以輕松擴(kuò)展到大型數(shù)據(jù)集。它也可以輕松與其他 Python 庫(kù)集成，如 NumPy、SciPy和Matplotlib。

import numpy as npimport emcee def log_prob(x, ivar):    return -0.5 * np.sum(ivar * x ** 2)  ndim, nwalkers = 5, 100 ivar = 1./np.random.rand(ndim)p0 = np.random.randn(nwalkers, ndim) sampler = emcee.EnsembleSampler(nwalkers, ndim, log_prob, args=[ivar])sampler.run_mcmc(p0, 10000)

總結(jié)

以上就是給大家做的工具庫(kù)介紹，這7個(gè)工具庫(kù)都是非常有用的，對(duì)于機(jī)器學(xué)習(xí)工作者來(lái)說(shuō)，它們可以大大提高工作效率，讓你能夠在簡(jiǎn)單的方式下編寫(xiě)復(fù)雜的代碼。所以，如果你還沒(méi)有了解這些工具庫(kù)的話(huà)，不妨花一點(diǎn)時(shí)間來(lái)了解一下。