sklearn의 VotingRegressor, VotingClassifer에서 fit 하기 전에, 파라미터로 들어가는 모델은 미리 학습해놔야해? 아니면 학습을…
- User
sklearn의 VotingRegressor, VotingClassifer에서 fit 하기 전에, 파라미터로 들어가는 모델은 미리 학습해놔야해? 아니면 학습을 하나도 진행하지 않은 기본 모델이야?
Assistant
sklearn의VotingRegressor와VotingClassifier에 파라미터로 전달되는 모델들은 **학습이 전혀 진행되지 않은 기본 모델(초기화된 상태)**이어야 합니다.이유:
- 보팅 앙상블은 내부적으로 각 기본 모델을 독립적으로 학습시킵니다.
- 만약 미리 학습된 모델을 전달하면,
fit()메서드가 호출될 때 다시 학습이 수행되며, 이전의 가중치/파라미터가 덮어씌워집니다. - 따라서 의미 없는 작업이 되며, 오히려 예기치 않은 결과를 초래할 수 있습니다.
올바른 사용 예시:
from sklearn.ensemble import VotingClassifier from sklearn.linear_model import LogisticRegression from sklearn.tree import DecisionTreeClassifier from sklearn.svm import SVC # 학습되지 않은 모델들로 초기화 model1 = LogisticRegression() model2 = DecisionTreeClassifier() model3 = SVC(probability=True) # VotingClassifier에서 'soft' voting 시 필요 voting_clf = VotingClassifier( estimators=[('lr', model1), ('dt', model2), ('svc', model3)], voting='soft' ) # 이후 fit()으로 학습 수행 voting_clf.fit(X_train, y_train)주의사항:
VotingClassifier에서voting='soft'를 사용할 경우, 모든 모델이predict_proba()메서드를 지원해야 합니다 (예:SVC는probability=True필요).fit()이후에는 각 모델이 개별적으로 학습된 상태가 됩니다.- 미리 학습된 모델을 강제로 넣어야 하는 특별한 경우가 아니라면, 반드시 초기화된 모델을 전달하세요!
Other models, same or similar prompt
Responses were produced in different, uncontrolled contexts (system prompts, settings, prior turns). This is not a benchmark.