بدین صورت عمل کنید:
int test(int arr[]) //یا int test(int* arr)
در ضمن تو پارامتر های تابع فرقی نمی کنه که چه تو کتابخانه باشه یا داخل application فقط بایستی تابع را export کنید.برای اینکار هم باید Calling Conventions تابع را مشخص کنید.