Re: [問題] 關於這段程式碼 要如何優化?

作者: celestialgod (天)   2016-03-12 01:52:25
※ 引述《jackhzt (巴克球)》之銘言:
: [問題類型]:
: 效能諮詢(我想讓R 跑更快)
: [軟體熟悉度]:
: 使用者(已經有用R 做過不少作品)
: [問題敘述]:如何將以下的程式碼跑快一點
: [程式範例]:R中的dist這function 因為想使用不同的計算方式,所以希望可以做到
: 和此function表現差不多的function
: 程式碼可貼於以下網站:
: https://gist.github.com/anonymous/cf844933bb6858936e25
: 希望有提高效率的方法
1. 如果距離函數是常見的,通常建議用dist達成
2. 如果不常見,盡量考慮用矩陣運算求出來
EX: (以歐式距離來說)
library(magrittr)
x <- matrix(rnorm(50), 5, 10)
distMat <- sweep(-x %*% t(x) * 2, 2, rowSums(x^2), '+') %>%
sweep(1, rowSums(x^2), '+')
diag(distMat) <- 0
distMat %<>% sqrt
all.equal(distMat, as.matrix(dist(x)), check.attributes = FALSE) # TRUE
3. 用簡單的平行,我可能會這樣做:
library(magrittr)
library(foreach)
library(doSNOW)
library(plyr)
library(Matrix)
dis <- function(x, y) sum(abs(as.numeric(x)-as.numeric(y)))
x <- matrix(rnorm(50), 5, 10)
allCombinations <- combn(1:nrow(x), 2)
cl <- makeCluster(8, type = "SOCK")
registerDoSNOW(cl)
clusterExport(cl, list = c("dis", "x"))
res <- aaply(allCombinations, 2, function(v){
dis(x[v[1],], x[v[2],])
}, .parallel = TRUE)
stopCluster(cl)
distMat <- sparseMatrix(i = allCombinations[1,],
j = allCombinations[2,], x = res) %>%
rbind(0) %>% as.matrix
distMat[lower.tri(distMat)] <- res
4. 或是乾脆用RcppArmadillo:
(下面是用之前kernel matrix估計的方法,之前有發過更快的方法...)
library(Rcpp)
library(RcppArmadillo)
## For windows user
# library(inline)
# settings <- getPlugin("Rcpp")
# settings$env$PKG_CXXFLAGS <- paste('-fopenmp', settings$env$PKG_CXXFLAGS)
# settings$env$PKG_LIBS <- paste('-fopenmp -lgomp', settings$env$PKG_LIBS)
# do.call(Sys.setenv, settings$env)
sourceCpp(code = '
// [[Rcpp::depends(RcppArmadillo)]]
#include <RcppArmadillo.h>
#include <omp.h>
// [[Rcpp::plugins(openmp)]]
using namespace Rcpp;
using namespace arma;
// [[Rcpp::export]]
NumericMatrix kernelMatrix_cpp(NumericMatrix Xr, NumericMatrix Centerr,
double sigma) {
omp_set_num_threads(omp_get_max_threads());
uword n = Xr.nrow(), b = Centerr.nrow(), row_index, col_index;
mat X(Xr.begin(), n, Xr.ncol(), false);
mat Center(Centerr.begin(), b, Centerr.ncol(), false);
mat KerX(n, b);
#pragma omp parallel private(row_index, col_index)
for (row_index = 0; row_index < n; row_index++)
{
#pragma omp for nowait
for (col_index = 0; col_index < b; col_index++)
{
KerX(row_index, col_index) = exp(sum(square(X.row(row_index)
- Center.row(col_index))) / (-2.0 * sigma * sigma));
}
}
return wrap(KerX);
}')
作者: jackhzt (巴克球)   2016-03-12 02:03:00
感謝大大 <3問一下 <anonymous>: ... may be used in an incorrectcontext: ‘.fun(piece, ...)出現這是正常的嗎?再請教一下 在後面一定要加.parallel = TRUE才有平行運還有參考以前的文章 使用平行時 如果不使用parApply或是其他 parCapply等等的函數 依然會有加速的效果嗎?剛剛看了大大的教學 開始讀了些平行運算的東西還是蠻多不懂的地方試做3000多條向量,使用snow好像依樣跑不太動...我用的也是測試用的 實際的公式還在推 目前嘗試的是用dis = function(x, y)sum(as.numeric(x)!=as.numeric(y))x為 R17的向量都是類別變數 1~4X1=[x11,x12,x13...x17]向量數為 X1,X2,X3...X3000謝謝大大 我認真研讀一下 感激涕零~

Links booklink

Contact Us: admin [ a t ] ucptt.com